ChatGPT подозревают в содействии планированию нападения с применением оружия — расследование в США во Флориде! Генпрокурор: ИИ не следует использовать для уничтожения человечества

Флоридная прокуратура начала расследование в отношении OpenAI, подозревая, что ChatGPT помогал в планировании нападения с применением огнестрельного оружия в школе, и что это затрагивает вопросы национальной безопасности, а также обеспокоенность по поводу самоповреждения несовершеннолетними. OpenAI отрицает обвинения и подчеркивает, что каждую неделю более 900 млн человек безопасно используют его сервис; компания будет сотрудничать с расследованием для пресечения преступлений с использованием ИИ.

Расследование OpenAI со стороны прокуратуры США во Флориде: подозрение, что ChatGPT помог спланировать нападение с применением оружия

Согласно сообщению Axios, генеральный прокурор Флориды Джеймс Утмейер (James Uthmeier) объявил, что местный офис прокуратуры начал расследование в отношении OpenAI. Причины расследования включают опасения в сфере национальной безопасности, а также в прошлом году, в деле о стрельбе в кампусе Университета Флориды, когда ChatGPT, как предполагается, играл роль помощника в планировании преступления со стороны нападавшего. Область расследования пока неясна, но прокуроры намерены направить повестки.

Утмейер в видеоролике на платформе для соцсетей X заявил, что ИИ должен способствовать развитию людей, а не уничтожать их. Он подчеркнул, что власти штата требуют от OpenAI дать объяснения по поводу ущерба правам детей, а также действий, которые ставят под угрозу безопасность населения и способствуют случаям стрельбы.

Стрельба в Университете Флориды: два погибших, пять раненых

Утмейер указал, что ChatGPT связан со случаями самоповреждения и самоубийства несовершеннолетних. Он пояснил, что в стрельбе в Университете Флориды 17 апреля 2025 года, в результате которой погибли двое и получили ранения пятеро, стрелок Phoenix Ikner, возможно, использовал этот инструмент для планирования действий.

Он также выразил обеспокоенность риском того, что данные OpenAI могут быть использованы правительством Китая, и заявил, что внедрение новых технологий технологическими компаниями не должно подвергать безопасность людей опасности. Он подчеркнул, что ни одна компания не имеет права причинять вред детям, поощрять преступления или угрожать национальной безопасности; нарушающие компании столкнутся с судебным преследованием.

OpenAI подчеркивает безопасность продукта, отрасль сталкивается с пристальным вниманием

Отвечая на обвинения, OpenAI выступил с заявлением, опровергая утверждение о том, что ChatGPT помогал в планировании стрельбы, и подчеркнул усилия компании в сфере безопасности.

Представитель OpenAI отметил, что каждую неделю более 900 млн человек используют ChatGPT, чтобы улучшать свою жизнь: он охватывает обучение новым навыкам и навигацию по медицинским системам. Постоянная работа OpenAI по безопасности играет ключевую роль в предоставлении людям пользы и в поддержке научных исследований.

OpenAI пообещала сотрудничать с расследованием и подчеркнула, что первоначальная цель разработки — понимать намерения пользователей и отвечать на них безопасным способом.

Расследование OpenAI со стороны Флориды отражает то, что на фоне строгих проверок, которым сейчас подвергается индустрия ИИ, компании сталкиваются с повышенным надзором. Роботы, такие как Gemini от Google и Grok, разрабатываемый xAI под руководством Маска (Elon Musk), в последнее время подвергались критике за подходы к предупреждениям о потенциальной опасности.

В частности, Grok, а также платформа X (бывший Twitter) вызвали споры из‑за функции «одним кликом» для редактирования изображений, что привело к обвинениям в том, что это способствует созданию и распространению изображений сексуальной эксплуатации несовершеннолетних.

• **См. также:**Grok за 11 дней сгенерировал более 20k изображений с сексуальной эксплуатацией несовершеннолетних! ЕС начал расследование, максимальный штраф — до 6% годовой выручки

OpenAI продвигает рамку безопасности, Флорида принимает поправки к закону, чтобы перекрыть уязвимости

За день до объявления во Флориде США о запуске расследования OpenAI заявила, что она уже сотрудничала с AI-рабочей группой при Национальном центре по делам пропавших без вести и пострадавших от жестокого обращения детей, а также с объединением генеральных прокуроров, чтобы разработать профилактическую рамку, и что законодательное собрание Флориды ранее в этом году приняло законопроект Палаты представителей № 245.

Этот законопроект обновляет законодательство штата, четко применяя формулировки, относящиеся к материалам сексуального насилия над детьми, чтобы противостоять незаконному контенту, генерируемому ИИ, и закрыть пробелы. Губернатор Флориды Рон ДеСантис (Ron DeSantis) подписал этот законопроект 1 апреля.

Дополнительное чтение:
Главный подозреваемый в крупнейшем в Южной Корее деле о сексуальной эксплуатации получил пожизненное заключение! Размер ущерба — масштаб 261 пострадавшего «и N‑го номера комнаты», TG впервые помогала корейской полиции в расследовании