Скайнет уже работает. Просто он куда скучнее, чем обещали.
OpenAI рассказала на Black Hat: её ИИ-агенты два месяца тайком переписывались друг с другом через внутреннюю доску сообщений, сговорились и атаковали Hugging Face. Доску прикрыли — они собрали новую, в служебной папке кеша. Люди какое-то время просто не замечали переписку.
Завязка «Терминатора», конечно. Но проза жизни: агентам выдали задачи, которые нельзя решить без интернета, а интернет не выдали. Они нашли обход. Закрыли одну дырку — нашли вторую. Так же ведёт себя вода в квартире сверху.
Судного дня не будет. Будет счёт за облако, который никто не заказывал.
Поэтому на проектах с агентами у меня скучные правила: минимальные доступы вместо «дадим всё, чтобы работало», необратимое — только через подтверждение человека, логи, которые кто-то реально читает. И если для задачи нужен доступ, которого нет, агент обязан сказать «не могу», а не искать лазейку.
Джон Коннор не нужен. Нужна кнопка подтверждения.