17 March 2023

«Мы ошибались» — почему OpenAI больше не поддерживает принцип открытого кода

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И (ИЛИ) РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ «РОСКОМСВОБОДА» ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА «РОСКОМСВОБОДА». 18+
Многие эксперты были разочарованы тем, что при появлении GPT-4 не было представлено информации о принципе работы генеративной модели.

Крупнейшая организация, занимающаяся разработкой и продвижением искусственного интеллекта, OpenAI сообщила, что больше не поддерживает принцип открытого кода. Несмотря на то, что анонс новой языковой ИИ-модели следующего поколения GPT-4 прошёл сравнительно недавно и возможности системы всё еще оцениваются, многие из экспертов, связанных с компанией, уже успели раскритиковать устройство генеративной модели. 

После публикации компанией множества результатов тестов GPT-4 в частности и некоторых демонстрационных материалов, эксперты подвергли критике решение OpenAI из-за того, что им не предоставили сведения об использованных при обучении системы данных, о затратах на энергию, об оборудовании, а также задействованных при ее создании методах. Специалисты считают, что такое решение подрывает дух исследовательской компании, а её работу не смогут проводить другие организации. Такой подход также препятствует разработке методов защиты и угроз, которые может представлять искусственный интеллект. 

Сооснователь и ведущий учёный OpenAI Илья Суцкевер рассказал, что причина такого решения — большая конкуренция и необходимость соблюдения безопасности. 

«GPT-4 непросто разрабатывать, — пояснил он. — Её создание на протяжении очень долгого времени отнимало и по-прежнему отнимает почти все силы OpenAI. И существует много компаний, которые хотят того же, так что с точки зрения конкуренции это можно воспринимать как развитие индустрии», – заявил ученый. 

Относительно конкуренции, по мнению эксперта, такое решение будет только способствовать развитию отрасли. Однако с точки зрения безопасности Суцкевер считает, что данные модели слишком мощные и со временем они будут становиться всё более мощнее «в какой-то момент при желании будет очень легко причинить этими моделями значительный ущерб. И по мере расширения этих возможностей обретает смысл нежелание их открывать», – пояснил ученый. 

Данный подход закрыть исходный код идёт вразрез с принципами компании, которая была основана в 2015 году. Её учредителями стали нынешний директор Сэм Альтман, Илон Маск (вышел из состава директоров в 2018 году) и Илья Суцкевер. Изначально это была некоммерческая компания, но позднее стала «ограниченно коммерческой» для более удобного привлечения миллиардных инвестиций, в том числе от Microsoft.

«Мы ошибались. Мы правда ошибались. Если вы, как и мы, считаете, что ИИ на каком-то этапе станет крайне могучим, то попросту неразумно раскрывать его подробности. Это плохая идея. Я полностью уверен, что через пару лет всем станет очевидно, что открывать источники ИИ — глупая затея», – так прокомментировал Илья Суцкевер кардинальное изменение стратегии OpenAI.

 

Комментарий IT-эксперта «Роскомсвободы»:

«Тут дело в том, что по большому счёту вопрос открытости кода в бОльшей степени является вопросом репутации. Открытый код всегда очень облегчает работу и исследователям и пользователям. Помогает быстрее находить ошибки и исправлять их и даже присылать авторам исправления. Помогает развитию отрасли (позволяет облегчить создание производных работ, что всегда является двигателем прогресса).

Во всех случаях открытый код положительно действует на репутацию. Но, справедливости ради, если целью становится не развитие отрасли, а зарабатывание денег в количестве «как можно больше» и главным интересом становится «получить преимущество над конкурентами», то да, открытость кода может идти в разрез с этими интересами.

Если почитать описанные в статье аргументы «учёного» из команды OpenAI, то лично для меня, как человека 20+ лет занимающегося компьютерными технологиями, они выглядят как «лапша для развешивания на уши некомпетентным слушателям». То есть, по моему мнению, эта инициатива по закрытию кода в разрез предыдущим обещаниям довольно свинская, а оправдания звучат как, говоря на сленге, "гнилые отмазки" и показывают что интерес компании сместился с развития отрасли на зарабатывание денег».

Contacts

For general questions

[email protected]

For legal questions

[email protected]

For media (Telegram)

+7 903 003-89-52

18+

On December 23, 2022, the Ministry of Justice included Roskomsvoboda in the register of unregistered public associations performing the functions of a foreign agent. We disagree with this decision and are appealing it in court.