Чем опасен идеальный искусственный интеллект?

Эксперт в области искусственного интеллекта Луи Розенберг рассказал, чем опасно создание "идеального" ИИ для человечества.

В колонке для издания Venture Beat он рассказал, что сейчас многие эксперты стремятся создать так называемый "общий искусственный интеллект" (artificial general intelligence), который будет самостоятельно мыслить, а не выполнять лишь те задачи, на которые он запрограммирован.

По словам Розенберга, подобный ИИ не сможет мыслить так как люди. 

"Если он будет вести себя как любой другой известный нам разумный вид, он поставит свои собственные интересы на первое место, стремясь максимизировать свои шансы на выживание", — подчеркнул эксперт.

Он также отметил, что программисты не в состоянии привить ИИ определенный образ мышления, это происходит за счет загрузки в него колоссальных объемов информации из наборов данных. За счет этого искусственный интеллект будет настраивать свои параметры до тех пор, пока его структура не изменится настолько сильно, что создатели уже не смогут её понять.  

"Скармливание ему данных о людях не заставит его думать как люди. Это распространенное заблуждение — ложное убеждение, что, обучая ИИ на данных, описывающих человеческое поведение, мы добьемся того, чтобы он думал, чувствовал и действовал так же, как мы", — отметил аналитик.

Луи Розенберг призвал осознать опасность интеллекта, который со временем сможет контролировать и манипулировать людьми, используя знания о человеческом поведении, ведь со временем подобные алгоритмы досконально изучат людей, научатся понимать их жесты и предсказывать действия.