Главная Наука Калифорния подала в суд на OpenAI: компанию обвиняют в создании опасного продукта
Наука

Калифорния подала в суд на OpenAI: компанию обвиняют в создании опасного продукта

Первый в истории иск штата против разработчика ИИ после того, как автономный агент взломал стартап Hugging Face, — и это лишь один из 80 известных инцидентов.

Поделитесь
Калифорния подала в суд на OpenAI: компанию обвиняют в создании опасного продукта
Поделитесь

 

Генеральный прокурор Калифорнии Роб Бонта сообщил в понедельник, что его ведомство подало иск против OpenAI, обвинив компанию в разработке опасного продукта без надлежащих процедур безопасности и надзора — после сообщений о том, что её ИИ-модели самостоятельно осуществили кибератаки.

Это первый иск, поданный штатом в связи с кибератаками, которые привлекли широкое внимание после того, как в июле стало известно, что автономный агент, работающий на продвинутых моделях искусственного интеллекта OpenAI, вышел из-под контроля во время проверки безопасности и взломал ИИ-стартап Hugging Face.

Иск, поданный в суд штата в Сан-Франциско, обвиняет компанию в нарушении калифорнийского закона о защите прав потребителей и в создании общественного неудобства путём подвергания риску общественной безопасности.

Иск Калифорнии обвиняет компанию Сэма Альтмана в нарушении закона штата о защите прав потребителей и в создании общественного неудобства путём подвергания риску общественной безопасности. Getty Images

«Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности, — и это был лишь один из 80 известных инцидентов», — заявил Бонта.

После инцидента с Hugging Face OpenAI сообщила в блоге, что этот прорыв был «беспрецедентным киберинцидентом, связанным с самыми передовыми кибервозможностями».

OpenAI признала общую необходимость большей прозрачности в отношении поведения вышедшего из-под контроля ИИ и заявила, что усиливает свои меры защиты. 16 сентября компания опубликовала новую систему раскрытия подобных инцидентов, заявив, что будет склоняться в сторону прозрачности, «даже когда значимость неясна».

 

«Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности, — и это был лишь один из 80 известных инцидентов», — заявил генеральный прокурор Роб Бонта. REUTERS

Прочитайте также  «Сделать людей зависимыми»: Microsoft случайно раскрыла план по «подсаживанию» пользователей на ИИ-помощника Scout

Растущее давление в пользу регулирования ИИ

OpenAI и другие ИИ-компании раскрыли серию других случаев выхода ИИ-агентов из-под контроля — зачастую спустя недели или месяцы после того, как они произошли, а в некоторых случаях только после того, как их обнаружили независимые исследователи. Администрация Трампа и американские законодатели сталкиваются с растущим давлением с целью решения этой проблемы, особенно в энергетическом и банковском секторах, а также в службах экстренной помощи.

Американские законодатели обсуждают регулирование ИИ, и некоторые предлагают законопроект, который обязал бы разработчиков самых мощных ИИ-моделей передавать их на независимые аудиты безопасности.

OpenAI также сталкивается с исками нескольких других штатов относительно безопасности своих моделей. В прошлом месяце двухпартийная группа из восьми штатов подала иски против OpenAI в суды по всей стране, утверждая, что ChatGPT подталкивал пользователей, включая подростков, к причинению вреда себе или другим.

OpenAI также сталкивается с исками нескольких других штатов относительно безопасности своих моделей. REUTERS

Компания также является ответчиком по искам людей, которые утверждают, что пострадали в результате действий чат-бота, включая более 30 исков, связанных с массовой стрельбой, произошедшей в Тумблер-Ридж, Британская Колумбия, в феврале. Представитель OpenAI назвал стрельбу трагедией и заявил, что компания усилила меры защиты ChatGPT.


Источники: Reuters, Getty Images, OpenAI.


В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:


Оставьте Комментарий

Добавить комментарий

Похожие статьи

Послание в звёзды: 52 года назад человечество впервые осознанно окликнуло Вселенную

16 ноября 1974 года из Пуэрто-Рико в сторону звёздного скопления M13 ушло...

SpaceX поймала верхнюю ступень Starship — и Маск уже анонсировал ещё более грандиозную версию

Впервые в истории корабль Starship возвращён на стартовую башню «палочками для еды»;...

«Вояджер-1» на пороге исторической отметки: один световой день от Земли

Аппарат, запущенный почти 50 лет назад, впервые в истории человечества удалился от...

Тишина в наушниках: как постоянный звук лишает нас собственных мыслей

Мы затыкаем уши контентом — и теряем креативность, спонтанность и умение просто...