Співробітник OpenAI з питань безпеки звільнився та закликав компанії, що займаються ШІ, посилити заходи захисту — The Atlantic.
Девід Робінсон, який очолював роботу з забезпечення прозорості в OpenAI, заявив про свій відхід з компанії в есе, опублікованому журналом The Atlantic. Це поповнює низку звільнень співробітників цієї та інших компаній, що розробляють ШІ, через побоювання щодо безпеки технології.
Робінсон зазначив, що компанії-розробники ШІ недостатньо обережні, і засудив їхній підхід до розвитку технології. Зокрема, OpenAI, за його словами, досягла успіху завдяки методу проб і помилок, який називала «ітеративним розгортанням». Але такий підхід гарантує періодичні збої, масштаб яких збільшується у міру зростання можливостей систем, попередив він.
Робінсон нагадав про інцидент із Hugging Face, коли автономна система ШІ-агентів OpenAI проникла в її виробничу інфраструктуру. Пол Крістіано, який нещодавно увійшов до ради директорів OpenAI, також зазначав, що стрімке прискорення можливостей ШІ може призвести до незворотної втрати контролю в найближчому майбутньому.
На його думку, компанії, що займаються ШІ, повинні більше покладатися на експертизу з безпеки, яка вже існує в інших галузях. Також до створення систем, що значно перевершують існуючі, необхідна нова наука, щоб гарантувати, що вони будуть автономно приймати безпечні рішення.
Він заявив, що з огляду на сьогоднішні ризики передові ШІ-лабораторії повинні працювати за принципом АЕС або завантажених аеропортів — з багаторівневим резервуванням і ретельним плануванням, «щоб випадкова й неминуча людська помилка не відкрила двері до катастрофи».
🚀Підтримати🤝_✅✅_🤝
🚀Приєднатися до ZN.UA