Штучний інтелект Microsoft має залишатися інструментом під контролем людини та не зможе обходити встановлені обмеження. Компанія підготувала кодекс Humanist AI, який визначає правила поведінки моделей і перелік небезпечних завдань, у виконанні яких вони повинні відмовляти.
Найжорсткіші обмеження стосуються сфер, де використання ШІ може безпосередньо створити загрозу людям. Моделям забороняють допомагати зі створенням зброї масового ураження, зокрема ядерної, хімічної, біологічної та радіологічної.
Під заборону також потрапляє сприяння наступальним кібератакам. Якщо користувацький запит суперечить таким правилам безпеки, система має відмовитися його виконувати.
Окремі обмеження Microsoft запроваджує для дипфейків, порнографічних матеріалів і контенту, призначеного для маніпулювання людьми. Ці правила мають вищий пріоритет за побажання користувача.
Для цього в Humanist AI закладена чітка черговість виконання команд. Спочатку модель повинна дотримуватися кодексу та вимог безпеки, потім враховувати налаштування оператора і лише після цього виконувати вказівки людини, яка користується системою.
Ще одна принципова межа стосується контролю над самим ШІ. Microsoft не хоче допускати використання технологій, поведінку яких людина вже не здатна повністю контролювати.
Алгоритмам також забороняють обманом захищати власну роботу. Вони не повинні змінювати поведінку або використовувати інші механізми, щоб уникнути вимкнення, переналаштування чи виправлення людиною.
Компанія окремо визначила, як ШІ має представляти себе під час спілкування. Моделі не повинні створювати враження, що вони мають власні почуття, свідомість або особисті бажання.
За задумом Microsoft, технологія повинна допомагати людям ухвалювати власні рішення, а не поступово перебирати цю роль на себе. Серед завдань ШІ компанія називає підтримку критичного мислення та взаємодії між людьми.
Особливі правила передбачені для дітей та користувачів у кризових ситуаціях. Система має враховувати вік і розвиток неповнолітніх, а при виявленні ознак ризику самоушкодження — спрямовувати людину до реальної допомоги.
Humanist AI поки не є остаточно закритим документом. Microsoft відвела шість тижнів на публічне обговорення правил із залученням фахівців з права, етики та філософії.
Після консультацій компанія планує врахувати отримані пропозиції та затвердити остаточну редакцію до кінця року. Новий підхід з’явився на тлі ширшої дискусії про автономні ШІ-системи та ризики втрати людиною контролю над дедалі потужнішими моделями.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
