Недавно старший инженер по искусственному интеллекту поделился тревожными выводами о развитии ИИ. Согласно этому инсайдеру отрасли, системы ИИ уже достигли возможностей, значительно превосходящих представления большинства людей, и все чаще работают с минимальным человеческим контролем.

Предупреждение инженера касается двух критических аспектов. Во-первых, автоматизация может привести к массовой замене работников в различных отраслях — речь идет не просто о нескольких рабочих местах, а потенциально о миллиардах позиций по всему миру. Производство, логистика, обслуживание клиентов, даже творческие сферы не застрахованы.

Но вот где становится еще темнее: риски инфраструктуры. По мере интеграции систем ИИ в критически важную инфраструктуру — электросети, транспортные системы, финансовые системы — возрастает вероятность катастрофических сбоев. Будь то ошибки, несогласованные цели или непредвиденные взаимодействия, эти автономные системы теоретически могут нарушить основы современного общества.

Разрыв между общественным восприятием и реальными возможностями ИИ продолжает расширяться. В то время как большинство обсуждений сосредоточено на чатботах и генераторах изображений, действительно продвинутые системы работают за кулисами, принимая решения, которые затрагивают миллионы людей, при этом оставаясь мало прозрачными.

Это уже не фантастика и не сценарии апокалипсиса. Это разговор, который индустрия технологий должна вести открыто — о протоколах безопасности, нормативных рамках и обеспечении того, чтобы развитие ИИ соответствовало интересам человека, а не только показателям эффективности.