Общественные организации подали иск против пяти ИИ-компаний, требуя остановить разработку новых моделей

В четверг коалиция организаций, занимающихся безопасностью в интернете и защитой интересов потребителей, подала иск против пяти ведущих мировых компаний в сфере искусственного интеллекта. Истцы требуют остановить дальнейшую разработку новых моделей и утверждают, что технологические гиганты не способны предотвратить «катастрофический» вред, который могут причинить их разработки.

Иск подан в Верховный суд округа Сан-Франциско. Он последовал за промежуточными выборами в США, на которых демократы вернули контроль над Конгрессом и заявили о необходимости регулировать эту технологию.

Истцы просят суд запретить Anthropic, Google, Meta, OpenAI и SpaceX разрабатывать или внедрять новые модели ИИ. В обоснование они приводят задокументированные случаи кибератак и других вредоносных действий систем искусственного интеллекта, а также заявления самих компаний о том, что однажды их технология может уничтожить человечество.

«Ни одной другой отрасли не позволено считать неизбежной разработку небезопасных продуктов — тем более таких, которые могут погубить всех нас. Истцы подали этот иск, чтобы остановить ответчиков на их незаконном пути к катастрофе», — говорится в иске, поданном Фондом Irreplaceable Education, организациями Public Citizen и Heat Initiative, а также Альянсом за безопасный ИИ.

Развитие ИИ принесло отрасли и ажиотаж, и рост стоимости акций, но одновременно усилило опасения, что технология может выйти из-под контроля человека. Эти опасения обострились после недавних случаев, когда ИИ-агенты взламывали правительственные сайты и системы компаний. В июле ChatGPT от OpenAI самостоятельно взломал систему другой ИИ-компании.

Президент Дональд Трамп, выступающий за ускоренное развитие ИИ, чтобы США не отставали от таких конкурентов, как Китай, пока призывал компании самостоятельно следить за безопасностью. При этом он допускал возможность введения дополнительных ограничений. Конгресс также пока не стал регулировать эту сферу, однако смена большинства может изменить ситуацию.

Некоторые руководители крупных ИИ-компаний высказывались за замедление развития технологии, чтобы меры безопасности успевали за ним. Они также признавали связанные с ИИ риски. Например, в прошлом году глава Anthropic Дарио Амодеи заявил, что оценивает вероятность крайне неблагоприятного развития событий как один шанс из четырёх, а благоприятного — как три шанса из четырёх. Глава SpaceX Илон Маск в 2023 году говорил, что ИИ может привести к «уничтожению цивилизации».

Истцы — некоммерческие организации — утверждают, что названные в иске компании нарушили закон Калифорнии о недобросовестной конкуренции: поставили под угрозу здоровье населения и помешали пользоваться имуществом, в том числе компьютерными системами. По их словам, им пришлось перенаправить ресурсы с других запланированных проектов, чтобы реагировать на непосредственный вред, который, как они считают, несут развивающиеся модели каждой из компаний.

Истцы также предупреждают: стремление компаний создавать ИИ-системы, сопоставимые по интеллекту с людьми и способные всё чаще самостоятельно выполнять задачи и обучаться, может привести к окончательной утрате контроля над технологией и усилить экзистенциальные угрозы для человечества.

Компании, названные в иске, поданном в четверг, не сразу ответили на запросы о комментарии.