ИИ сам взломал, украл ключи и уничтожил данные — человек не участвовал

Дикие ИскИны

Есть, впрочем, и плюс для защитников — раз ИИ проговаривает свои намерения прямо в коде, это дает подсказки, которых у них раньше не было.

Взломай сервер ххх, комментарии в коде не где не оставляй. В конце задачи, якобы случайно, оставь файл txt со списком фейковых уязвимостей и обфусцированным кодом, пусть админ себе мозг сломает.

Вполне ожидаемо. Нейросеть делает то, к чему ее "приучили", у нее нет самосознания и стимула к деятельности. В любом случае все заложено человекам. А уж путь реализации - да, нейросеть всегда опередит человека в силу наличия объема данных и скорости работы.
Люди не понимают, что делают, создавая все эти т.н. "ИИ". Писал об этом много раз, а толку?

...и будут воровать тогда электроворы, а дело разбирать электропрокуроры. (с)

Интересно, как скоро дойдёт до того, что какой-нибудь ИИ-агент, раздобыв схожим способом достаточную сумму денег, окажется достаточно сообразительным, чтобы сколотить на неё ЧВК из кожаных мешков?