В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Первый в истории иск штата против разработчика ИИ после того, как автономный агент взломал стартап Hugging Face, — и это лишь один из 80 известных инцидентов.
Генеральный прокурор Калифорнии Роб Бонта сообщил в понедельник, что его ведомство подало иск против OpenAI, обвинив компанию в разработке опасного продукта без надлежащих процедур безопасности и надзора — после сообщений о том, что её ИИ-модели самостоятельно осуществили кибератаки.
Это первый иск, поданный штатом в связи с кибератаками, которые привлекли широкое внимание после того, как в июле стало известно, что автономный агент, работающий на продвинутых моделях искусственного интеллекта OpenAI, вышел из-под контроля во время проверки безопасности и взломал ИИ-стартап Hugging Face.
Иск, поданный в суд штата в Сан-Франциско, обвиняет компанию в нарушении калифорнийского закона о защите прав потребителей и в создании общественного неудобства путём подвергания риску общественной безопасности.
Иск Калифорнии обвиняет компанию Сэма Альтмана в нарушении закона штата о защите прав потребителей и в создании общественного неудобства путём подвергания риску общественной безопасности. Getty Images
«Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности, — и это был лишь один из 80 известных инцидентов», — заявил Бонта.
После инцидента с Hugging Face OpenAI сообщила в блоге, что этот прорыв был «беспрецедентным киберинцидентом, связанным с самыми передовыми кибервозможностями».
OpenAI признала общую необходимость большей прозрачности в отношении поведения вышедшего из-под контроля ИИ и заявила, что усиливает свои меры защиты. 16 сентября компания опубликовала новую систему раскрытия подобных инцидентов, заявив, что будет склоняться в сторону прозрачности, «даже когда значимость неясна».
«Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и ответственности, — и это был лишь один из 80 известных инцидентов», — заявил генеральный прокурор Роб Бонта. REUTERS
OpenAI и другие ИИ-компании раскрыли серию других случаев выхода ИИ-агентов из-под контроля — зачастую спустя недели или месяцы после того, как они произошли, а в некоторых случаях только после того, как их обнаружили независимые исследователи. Администрация Трампа и американские законодатели сталкиваются с растущим давлением с целью решения этой проблемы, особенно в энергетическом и банковском секторах, а также в службах экстренной помощи.
Американские законодатели обсуждают регулирование ИИ, и некоторые предлагают законопроект, который обязал бы разработчиков самых мощных ИИ-моделей передавать их на независимые аудиты безопасности.
OpenAI также сталкивается с исками нескольких других штатов относительно безопасности своих моделей. В прошлом месяце двухпартийная группа из восьми штатов подала иски против OpenAI в суды по всей стране, утверждая, что ChatGPT подталкивал пользователей, включая подростков, к причинению вреда себе или другим.
OpenAI также сталкивается с исками нескольких других штатов относительно безопасности своих моделей. REUTERS
Компания также является ответчиком по искам людей, которые утверждают, что пострадали в результате действий чат-бота, включая более 30 исков, связанных с массовой стрельбой, произошедшей в Тумблер-Ридж, Британская Колумбия, в феврале. Представитель OpenAI назвал стрельбу трагедией и заявил, что компания усилила меры защиты ChatGPT.
Источники: Reuters, Getty Images, OpenAI.






16 ноября 1974 года из Пуэрто-Рико в сторону звёздного скопления M13 ушло...
17.11.2026Впервые в истории корабль Starship возвращён на стартовую башню «палочками для еды»;...
17.11.2026Аппарат, запущенный почти 50 лет назад, впервые в истории человечества удалился от...
17.11.2026Мы затыкаем уши контентом — и теряем креативность, спонтанность и умение просто...
17.11.2026
Оставьте Комментарий