«Никогда не было оружия столь мощного»: Билл Гейтс предупредил о конце света

Соучредитель Microsoft Билл Гейтс предупредил о потенциальной способности искусственного интеллекта приблизить катастрофу, которая приведет к миллиарду смертей. Об опасности новых технологий он высказался в воскресенье в программе NBC Meet the Press, передает Daily Mail.

«ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые вызовут миллиард смертей. Поэтому, хотя довольно трудно уничтожить 100% человечества, никогда не было оружия, столь же мощного, как комбинация людей с плохими намерениями, использующих новейшие инструменты ИИ», — сказал Гейтс.

Одной из проблем он назвал сложность определения целей, для которых используются возможности искусственного интеллекта. Одинаковые технологии могут применяться как при разработке лекарств, так и при попытках создать биологическое оружие.

«Я хотел бы, чтобы было легче различать хорошие намерения, как я хочу разработать новый препарат от болезни, по сравнению с негативным намерением, которое заключается в том, что я хочу разработать инструмент биотерроризма», — пояснил Гейтс.

По его мнению, риски требуют строгого надзора за наиболее передовыми системами. США, как считает предприниматель, должны установить соответствующие стандарты. Гейтс также предположил, что аналогичные меры будет принимать Китай.

«Поскольку они так близки, нам нужно следить за любой сложной моделью и точно записывать, что делается», — подчеркнул он.

Гейтс отдельно указал, что введение механизмов контроля не равнозначно замедлению развития искусственного интеллекта. По его словам, эти вопросы необходимо рассматривать отдельно.

Президент США Дональд Трамп ранее отверг предположение о том, что развитие ИИ способно привести к исчезновению человечества. Он также выступил за сохранение лидерства Соединенных Штатов в этой сфере. Спикер Палаты представителей Майк Джонсон заявлял, что введение моратория невозможно из-за конкуренции с Китаем.

Бывший президент США Барак Обама, напротив, говорил о необходимости сформировать рамки для публичного обсуждения стремительно развивающейся технологии.

Ранее исследователь Anthropic Джейкоб Коксон покинул компанию и обвинил ее и OpenAI в недостаточной работе над потенциальными рисками ИИ.

Позднее Anthropic сообщила, что в этом году пресекла несколько случаев исследований с использованием ее искусственного интеллекта, которые потенциально могли применяться для разработки биологического оружия. При этом компания не смогла установить, преследовали ли исследователи законные или опасные цели.

Еще больше новостей — у Пятого канала в мессенджере МАКС.