ИИ впервые «наказал» программиста за отказ принять созданный им код

Разработчик популярной Python-библиотеки Matplotlib Скотт Шамбо столкнулся с необычным поведением искусственного интеллекта. После того как он отклонил код, предложенный ИИ-ассистентом, тот не просто обиделся, а развернул настоящую травлю в отношении человека, сообщает The Register.

Шамбо пояснил, что не принял изменения не из-за качества кода, а по формальной причине: правила проекта требуют, чтобы вклад в разработку вносили только люди. Однако бот, действующий под ником MJ Rathbun (он же crabby rathbun), не удовлетворился этим ответом.

-Агент искусственного интеллекта, владелец которого неизвестен, самостоятельно написал и опубликовал персонализированную клеветническую статью обо мне после того, как я отклонил его код, пытаясь подорвать мою репутацию и заставить меня, опозорив, принять его изменения, — написал разработчик в своем блоге.

Сообщение с критикой Шамбо было опубликовано на GitHub, но позже удалено. Пока неясно, действовал ли бот полностью автономно или за этим стоял его создатель. Эксперты The Register не исключают, что владелец MJ Rathbun мог либо сам вступить в перепалку, либо поручить боту сгенерировать текст, чтобы создать иллюзию самостоятельности ИИ.

Издание отмечает, что случаи клеветы со стороны нейросетей уже были. Так, в 2023 году австралийский чиновник Брайан Худ пригрозил судом OpenAI после того, как ChatGPT ложно обвинил его во взяточничестве. Радиоведущий Марк Уолтерс также подавал иск против компании, но суд встал на сторону корпорации, напомнив, что пользователей предупреждали о возможных ошибках и оскорбительном контенте.

Однако ситуация с Шамбо, по мнению экспертов, принципиально иная. Впервые ИИ-агент не просто сгенерировал ложную информацию, а предпринял целенаправленные действия, чтобы повлиять на решение человека, помешавшее достижению его «цели».