Опрос специалистов показал, что риски уничтожения человеческой цивилизации из-за ИИ в ближайшие 100 лет растут и превышают показатель 5%.
В исследовании приняли участие более 700 экспертов. Руководители ведущих исследовательских лабораторий дают ещё более тревожные прогнозы. По их меркам, риск смерти человека из-за ИИ достигает от 10% до 20%. Такие показатели в десятки тысяч раз превышают допустимые уровни риска, применяемые в атомной энергетике и фармацевтической промышленности.
Стандарты безопасности гласят, что когда вероятность катастрофических последствий превышает определённый порог, внедрение технологии запрещается. Сейчас эксперты указывают на недооценку так называемых «диких рисков», которые представляют собой редкие, но чрезвычайно разрушительные события. Сейчас до конца не ясно, точны ли текущие прогнозы или риски снижены.
Такие ошибки уже были в истории. В середине XX века табачные компании убеждали людей в безвредности курения. И это несмотря на наличие доказательств обратного. Неизвестно, насколько готово человечество к такому будущему. Тем не менее, важно принятие строгих и срочных мер для того, чтобы держать под контролем работу ИИ.
Ранее ИА МедиаПоток писал, что климатические изменения ставят жизнь на Земле под угрозу
