Принцип работы искусственного интеллекта (ИИ) делает процесс принятия решений неподконтрольным человеку, то есть позволяет прийти по истине к апокалиптическим сценариям. На это обратил внимание заместитель председателя Совета безопасности РФ Дмитрий Медведев в публикации для журнала "Эксперт".
"Мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу", - отметил он, предлагая смоделировать ситуацию, когда "из-под контроля вышли нейросети, которые используются в процессе управления электростанциями". "В случае, если в них происходит сбой, мы не сможем даже понять его причин", - указал политик.
Он подчеркнул, что "вот тут-то для человечества и начинается предчувствие апокалипсиса". "Отсюда один шаг к модели "злого ИИ", которая, как и все иные, может материализоваться" - к ситуации, "когда сбой важной системы происходит по прямому умыслу самого ИИ", добавил Медведев.
"Такого сценария сегодня не исключают вполне реальные политики и представители крупного бизнеса", - заметил он.
