Недавній досвідчений інженер штучного інтелекту поділився тривожними висновками щодо розвитку штучного інтелекту. За словами цього інсайдера галузі, системи ШІ вже досягли можливостей, значно перевищуючих уявлення більшості людей, і все частіше працюють з мінімальним людським контролем.

Попередження інженера стосується двох критичних питань. По-перше, автоматизація може замістити величезну кількість працівників у різних галузях — мова йде не лише про кілька робочих місць, а потенційно про мільярди позицій у всьому світі. Виробництво, логістика, обслуговування клієнтів, навіть креативні сфери не є винятком.

Але тут ситуація стає ще більш похмурою: ризики для інфраструктури. Зі зростанням інтеграції систем ШІ у критичну інфраструктуру — енергетичні мережі, транспортні системи, фінансові системи — зростає ймовірність катастрофічних збоїв. Чи то через помилки, неправильне налаштування цілей, чи через непередбачувані взаємодії, ці автономні системи теоретично можуть порушити основи сучасного суспільства.

Розрив між громадським сприйняттям і реальними можливостями ШІ продовжує зростати. Хоча більшість дискусій зосереджена на чатботах і генераторах зображень, справді просунуті системи працюють за лаштунками, приймаючи рішення, що впливають на мільйони, без достатньої прозорості.

Це вже не фантастика або сценарії апокаліпсису. Це питання, яке технологічна індустрія повинна обговорювати відкрито — про протоколи безпеки, регуляторні рамки та забезпечення того, щоб розвиток ШІ відповідав інтересам людства, а не лише показникам ефективності.