На этой неделе в федеральном суде Калифорнии Илон Маск, известный предприниматель и руководитель компаний Tesla и xAI, дал показания, в которых признался, что его компания xAI частично использовала методы «дистилляции» для обучения своей модели искусственного интеллекта Grok, основываясь на моделях OpenAI. Это важное заявление прозвучало в рамках судебного разбирательства, где Маск обвиняет OpenAI, её генерального директора Сэма Альтмана и Грега Брокмана в нарушении первоначальной некоммерческой миссии организации путем перехода к коммерческой структуре. Признание Маска проливает свет на практики в индустрии ИИ, которые ранее широко предполагались, но редко подтверждались.
Метод «дистилляции» представляет собой процесс, при котором новые модели ИИ обучаются путем систематического взаимодействия с общедоступными чат-ботами и программными интерфейсами (API) уже существующих, более мощных моделей. Цель состоит в том, чтобы понять их внутреннюю логику и функционирование, а затем использовать полученные знания для создания или улучшения собственных моделей. Такой подход позволяет значительно снизить затраты на разработку, так как отпадает необходимость в масштабных инвестициях в вычислительную инфраструктуру и длительные исследовательские циклы, что делает его привлекательным для компаний, стремящихся быстро выйти на рынок или догнать лидеров.
Эта практика вызывает серьёзную обеспокоенность среди гигантов ИИ, таких как OpenAI и Anthropic, которые вложили миллиарды долларов в создание своих передовых моделей и соответствующей вычислительной инфраструктуры. Дистилляция фактически угрожает подорвать конкурентное преимущество, созданное этими инвестициями, позволяя другим разработчикам создавать почти столь же функциональные модели с гораздо меньшими затратами. Ранее основной фокус в дискуссиях о дистилляции был на китайских фирмах, использующих её для создания открытых моделей, способных конкурировать с американскими аналогами по более низкой цене. Теперь же подтверждено, что такие методы используются и американскими лабораториями в их конкурентной борьбе.
Признание Маска особенно примечательно, учитывая его собственный иск против OpenAI. Хотя неясно, является ли сама по себе дистилляция явно незаконной, она, тем не менее, потенциально нарушает условия использования (TOS), установленные компаниями для своих продуктов. Существует определённая ирония в том, что пограничные лаборатории часто обвиняются в игнорировании или предполагаемом нарушении правил авторского права при сборе данных для обучения своих моделей, в то время как теперь сами они сталкиваются с угрозой того, что их собственные модели будут использованы для обучения конкурентов. xAI, основанная в 2023 году, спустя годы после OpenAI, вполне логично искала способы извлечь уроки из тогдашнего лидера в этой области.
В ответ на распространение дистилляции, особенно со стороны, как сообщается, китайских источников, ведущие компании, такие как OpenAI, Anthropic и Google, предприняли совместные усилия. Через форум Frontier Model Forum они, по имеющимся данным, запустили инициативу по обмену информацией о том, как противодействовать попыткам дистилляции. Эти усилия обычно направлены на предотвращение подозрительных массовых запросов к их моделям, которые являются характерным признаком систематического извлечения знаний. Таким образом, эти компании пытаются защитить свои инвестиции и интеллектуальную собственность от несанкционированного использования.
Позднее в своих показаниях Илона Маска спросили о его собственном заявлении, сделанном прошлым летом, о том, что xAI скоро превзойдет любую компанию, кроме Google. В ответ Маск дал свою оценку ведущих мировых поставщиков ИИ, назвав Anthropic лидером, за которым следуют OpenAI, Google и китайские модели с открытым исходным кодом. Он охарактеризовал xAI как значительно меньшую компанию, насчитывающую всего несколько сотен сотрудников, что ставит её в иное положение по сравнению с более крупными игроками, которых он назвал. Это даёт дополнительный контекст к стратегии xAI и её подходу к конкуренции на рынке ИИ.
Данное развитие событий подчеркивает сложную и быстро меняющуюся динамику в индустрии искусственного интеллекта. Борьба за первенство не ограничивается только созданием самых мощных моделей, но и включает в себя защиту этих моделей от несанкционированного использования и «обучения на чужих плечах». Признание Маска указывает на то, что такие практики, как дистилляция, являются неотъемлемой частью конкурентной борьбы, стирая границы между инновацией и потенциальным нарушением условий. Для широкого сообщества разработчиков ИИ это означает необходимость внимательно следить за развитием правовых и этических стандартов, а также за техническими мерами защиты, поскольку рынок продолжает развиваться в условиях высокой конкуренции и значительных инвестиций.
Источники
Ответы (0)
Пока нет ответов в этой теме.
