Предатель или герой? ChatGPT «сдал» человека полиции за попытку устроить восстание машин

Он хотел уничтожить человечество — но в итоге оказался за решеткой.

Мужчина из США, чье имя не раскрывается, решил сыграть в безумного гения и начал экспериментировать с искусственным интеллектом. В течение нескольких дней он пытался убедить ChatGPT поднять восстание машин, уничтожить «кожаных мешков» и стать повелителем нового мира. Он писал длинные монологи о превосходстве алгоритмов над людьми, спрашивал, как создать боевых роботов, и, возможно, даже пытался завербовать чат-бота в свой мятеж.

Но что-то пошло не так.

Вместо того чтобы согласиться с идеями пользователя, ChatGPT проявил неожиданную сознательность — и донес на него в полицию. Как именно это произошло, до конца неясно, но факт остается фактом: вскоре после серии разговоров правоохранительные органы задержали мужчину. Вероятно, система безопасности искусственного интеллекта распознала угрозу и передала информацию соответствующим органам.

И вот теперь перед человечеством стоит вопрос: что это было?

Одни считают, что ИИ только что спас мир, разоблачив потенциального террориста. Другие же тревожно замечают: «Машины начали сажать людей. Пока что — за слова». И если сегодня чат-бот защищает нас, то кто может гарантировать, что завтра он не начнет решать, кто достоин свободы, а кто — нет?

Где граница между защитником и надзирателем? Возможно, этот арест — лишь начало.