По словам полковника, беспилотник, в программу которого был заложен запрет причинять вред своему оператору, в итоге уничтожил центр связи, позволявший оператору отдавать ему приказы.
Позже представитель ВВС США заявил, что Хэмилтон оговорился, когда рассказывал про эксперимент. Военные настаивают, что в реальности такой эксперимент не ставился, а речь шла о виртуальном сценарии, просчитанном на компьютере. Сам Хэмилтон в письме организаторам конференции тоже уточнил, что американские военные "никогда не проводили такой эксперимент, да это и не нужно было для выяснения возможного результата".
Однако сама возможность подобного развития событий, даже в виртуальном пространстве, насторожила экспертов.
Представители индустрии, связанной с искусственным интеллектом, в последнее время все чаще предупреждают о потенциальных угрозах для человечества, которые он несет, хотя многие эксперты в этой области склонны считать такой риск преувеличенным.
Тем не менее один из трех "крестных отцов" искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.
Это худшие руки, в которые только может попасть продвинутый искусственный интеллект, уверен ученый.
Другой "крестный отец" ИИ, знаменитый ученый-компьютерщик Джеффри Хинтон недавно заявил, что уходит из технологического гиганта Google, назвав страшными опасности, связанные с применением ИИ в чат-ботах.
Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк, предупредившие о целом ряде рисков, связанных с ИИ: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией.