Google работает по предотвращению выхода ИИ из-под контроля
Google разрабатывает планы по противодействию угрозе непоправимого вреда, который могут нанести передовые системы искусственного интеллекта, превосходящие возможности человека.
Исследовательская группа Google DeepMind, лаборатории искусственного интеллекта этой крупной технологической компании, на этой неделе заявила, что они сосредоточены на проблеме самосознания искусственного интеллекта и его решения игнорировать вмешательство человека.
По мнению исследователей, в ближайшие годы может появиться искусственный интеллект общего назначения (ИИ), выходящий за рамки человеческих возможностей. Он может посеять хаос, если не будет должным образом соответствовать человеческим ценностям.
“Мы также проводим обширные исследования риска обманчивого согласования, то есть риска того, что система ИИ узнает, что ее цели не совпадают с человеческими инструкциями, и намеренно попытается обойти меры безопасности, принятые людьми, чтобы не допустить совершения ею несогласованных действий», — сообщили исследователи в блоге Google DeepMind.
ИИ, не согласованный с людьми, может нанести целый ряд вреда: от мелкого воровства до масштабных кибератак. Например, исследователи заявили, что несогласованная система ИИ, которой поручено приобретение билетов, может взломать систему продажи, чтобы зарезервировать занятые места на распроданном шоу.
Однако Google больше всего опасается, что ИИ выйдет за рамки, которые технические специалисты используют для сдерживания систем.