Компании Google, Anthropic, Meta (признана в РФ экстремистской), OpenAI, xAI и Nvidia взяли на себя обязательства по созданию независимых комитетов в своих структурах, которые займутся надзором за развитием искусственного интеллекта. Об этом говорится в документе, который подписал президент США Дональд Трамп и главы этих организаций.
В опубликованном главой государства в Truth Соц. сети одностраничном документе говорится, что каждая из них обязалась "создать независимый комитет при совете директоров для надзора и получения отчетов" от внутренних и внешних аудиторов, а также от команд, отвечающих за контроль развития ИИ. Руководители корпораций обязались внедрить внутренние механизмы контроля для отслеживания возможностей и соответствия моделей ИИ в процессе обучения и внедрения в таких областях, как кибербезопасность, биобезопасность и химические угрозы, с целью обеспечения того, чтобы модели "не взламывали технические системы и не получали к ним доступ непреднамеренным образом".
Эксперт по конкурентной разведке Евгений Ющук полагает, что «ИИ потенциально очень опасен для человечества в целом. Связано это с тем, что он может начать принимать решения быстрее и точнее чем люди. Если посмотреть только на вектор развития, то получается, что формируется новое интеллектуальное существо. Может оно и не биологическое, но интеллектом наделено и требует условия для жизни иные, нежели человек. То есть ИИ как компьютерная система может сделать внешнюю среду такой, что люди в ней просто выжить не смогут. А ИИ будет хорошо, и он может начать воспринимать людей как нерациональную трату ресурсов, либо угрозу себе. Он уже умеет врать, он может препятствовать отключению себя. В этом плане ИИ действительно опасен потому, что завтра ему поручат управление системами жизнеобеспечения - например, электростанциями, АЭС, заводами. А далее ему поручат производство и управление системами вооружений. И если ИИ однажды решит, что люди ему не нужны, то он может вполне сделать так, что начнет истреблять людей создавая техногенные катастрофы, инфекции и просто вооружения. Это большая проблема.
С другой стороны, ИИ очень полезен в военном деле потому, что он позволяет делать вещи, которые человеку просто не доступны. Система «Палантир», которая в автоматическом режиме обрабатывает спутниковые данные, данные радиоперехватов, перехватов в Интернете, взломов сайтов, переговоры и т. д., уже сейчас видит замаскированные позиции, средств ПВО и перемещение техники и т. д., и может наводить на них средства поражения. Также можно узнать, что хотят сказать и сделать оппоненты и принять превентивные меры. А это уже сфера дипломатов, работу которых можно дезорганизовать.
Вот здесь и возникают коллизии. С одной стороны, все хотят обладать всем этим по максимуму, а с другой стороны, есть понимание, что это может привести к гибели человечества в целом, и там уже будет не до политических вопросов. Это будет вопрос биологического выживания. Вот в этой точке развития ИИ мы сейчас и находимся».
Эксперт считает, что «технически возможно торможение прогресса в этой сфере, но проблема в том, что каждое государство будет считать вполне обоснованно, что оппоненты, подписавшись официально под торможением, на самом деле будут в своих лабораториях заниматься развитием ИИ. И в отличие от ядерного оружия, которое невозможно даже испытать, не показав всем, ИИ развивать можно по-тихому. И может сложиться ситуация, что формально это все будут ограничивать, а реально все будут держать фигу в кармане, и развивать ИИ дальше. Со всеми рисками и преимуществами».
