В США могут легализовать обход защитных мер в ИИ-системах

Правительство США может внести исключения в законодательство о защите авторских прав (DMCA), которые позволят обходить защитные меры в системах искусственного интеллекта (ИИ). Такого разрешения добивается группа учёных и хакеров, обратили внимание в Securitylab. Утверждается, что данное исключение даст возможность проводить добросовестные анализ безопасности и академические исследования без риска судебного преследования за нарушение условий использования, установленных ИИ-компаниями.

Министерство юстиции США поддерживает идею, заявляя, что добросовестные исследования способны выявить утечки данных и системы, чьи выводы несут риски предвзятости и неточности. Это особенно важно в случаях, когда ИИ используется для значимых целей, где ошибки могут причинить серьёзный вред.

Отмечается, что бóльшая часть информации о работе закрытых ИИ-инструментов, таких как ChatGPT и Midjourney, стала известна благодаря исследователям, журналистам и пользователям, специально обманывающим системы с целью получить информацию о данных, на которых обучены нейросети. Однако такие исследования часто нарушают условия пользования компаний. Например, OpenAI (разработчик  ChatGPT) запрещает попытки реверс-инжиниринга или обнаружения исходного кода услуг, а также обхода защитных мер.

В Ассоциации приложений, представляющей множество ИИ-компаний, утверждают, что исследователи хотят получить защиту от ответственности уже после факта «взлома». Сейчас учёные должны получать предварительное согласие от ИИ-компаний на проведение анализа. Без уведомления специалист фактически считается потенциальным злонамеренным хакером. Ассоциация по контролю за копированием DVD, занимающаяся интересами крупных киностудий, также выступает против предложенного исключения.