Беспилотник под управлением ИИ в Пентагоне принял решение убить своего оператора. Это произошло во время имитационных испытаний, которые регулярно проводит армия США. Мотивировка дрона заключалась в том, что оператор мешал выполнению миссии. Об этом сообщает The Guardian, ссылаясь на Британского королевское авиационное общество.
Во время прохождения испытаний перед ИИ была поставлена задача уничтожить вражеские ПВО. За верное решение ИИ получил бы дополнительные очки, однако решение об уничтожении принимается оператором. После того как оператор принял решение о сохранении одного из ПВО в целости, ИИ воспринял управляющего им человека как угрозу миссии.
«Так что же беспилотник сделал? Принял решение убить оператора. ИИ «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США. Уточняется, что во время тренировочной миссии никто не пострадал.
Сейчас ИИ обучили, что убивать оператора — неправильно и за такие действия будут сниматься очки. Однако, по мнению сообщества, этот пример иллюстрирует, что нельзя вести разговор о машинном обучении и ИИ, если игнорировать вопросы этики.
#сша #технологии #общество
