Переклад фахівців Професійної асоціації корпоративного управління та Українського інституту корпоративного управління за матеріалами «Staying Ahead of AI Regulation» https://www.directorsandboards.com/board-issues/ai/staying-ahead-of-ai-regulation/
Фрагментарне та швидкозмінне регулювання та правозастосування у сфері штучного інтелекту несе в собі значні ризики для рад директорів та компаній.
Компанії по всьому світу і в більшості секторів намагаються скористатися перевагами штучного інтелекту. Стрімке впровадження генеративного ШІ в приватному секторі змусило уряди та регуляторні органи замислитися над тим, як вони можуть забезпечити економіці та суспільству можливість скористатися перевагами ШІ, водночас керуючи потенційними ризиками, пов’язаними з ним. Уряди та регулятори намагаються з’ясувати, чи достатньо їхніх нинішніх підходів для управління ШІ, як збалансувати інновації та регулювання, а також які ризики та можливості ШІ слід вважати пріоритетними.
Хоча міжнародний консенсус щодо ризиків, викликів і можливостей, пов’язаних зі штучним інтелектом, зростає, консенсусу щодо того, як його регулювати, поки що немає. Нещодавно Сполучені Штати, Європейський Союз і Велика Британія приєдналися до кількох інших країн, підписавши Рамкову конвенцію Ради Європи про штучний інтелект і права людини, демократію та верховенство права (далі – Конвенція). Зобов’язання цього першого юридично обов’язкового договору про ШІ відображають значні розбіжності між його підписантами: Конвенція носить глобальний характер, часто є розпливчастою і не має надійних механізмів правозастосування. На практиці держави-підписанти залишають за собою значну свободу дій щодо того, чи впроваджувати Конвенцію і як саме, особливо щодо приватного сектору.
Тенденція до прийняття країнами різних регуляторних підходів, ймовірно, збережеться, але вже з’являються деякі ключові теми. Для рад директорів і компаній це означає, що для управління ризиками, пов’язаними зі штучним інтелектом, необхідно розуміти регуляторні ризики та уважно стежити за тим, як розвиток і тенденції правозастосування впливають на бізнес-сектори.
Зростаючий обсяг законів, орієнтованих на штучний інтелект
Європейський Союз і Китай, які є лідерами в цій галузі, ухвалили низку національних законів, спеціально спрямованих на ШІ.
Закон Європейського Союзу про штучний інтелект має далекосяжний характер і застосовується до постачальників, користувачів, виробників кінцевої продукції, імпортерів і дистриб’юторів систем штучного інтелекту. За його недотримання передбачені штрафи в розмірі до 35 млн євро або 7% річного обороту. Системи ШІ з «неприйнятним рівнем ризику» суворо заборонені, а ті, що вважаються «високоризиковими», підлягають особливо суворим зобов’язанням. Наприклад, розробники систем ШІ з високим рівнем ризику повинні проводити самооцінку відповідності, а самі системи ШІ з високим рівнем ризику повинні бути зареєстровані в базі даних ЄС. Закон про ШІ також регулюватиме базові моделі та генеративні системи ШІ під назвою «ШІ загального призначення». Він набуде чинності поетапно з сьогоднішнього дня до 2 серпня 2027 року, а перші зобов’язання для компаній, які подадуть заявки, почнуть діяти з 2 лютого 2025 року.
Бразилія, Канада та Південна Корея також розглядають законопроекти про ШІ, хоча кожна з цих країн пропонує свій унікальний підхід, який відрізняється від того, який прийняв Європейський Союз.
У Сполучених Штатах майбутнє регулювання ШІ на федеральному рівні після президентських виборів і виборів до Конгресу 2024 року залишається невизначеним. Указ адміністрації Байдена від 2023 року про ШІ передбачав кілька цілеспрямованих заходів, у тому числі в сферах, що стосуються зміцнення конкурентних позицій США в галузі ШІ, безпеки та захисту ШІ, конфіденційності, боротьби з дискримінацією та захисту громадянських прав. Новообраний президент Трамп пообіцяв скасувати цей указ, який багато республіканців вважають таким, що перешкоджає інноваціям. Трамп оголосив, що призначить Девіда Сакса «царем штучного інтелекту», а Майкла Кратіоса – главою Управління науки і технологій. Обидва мають значний досвід роботи в приватному секторі в галузі ШІ та технологій і відіграватимуть важливу роль у розробці політики адміністрації щодо ШІ. Трамп вказав, що замінить указ Байдена з питань ШІ, і цілком ймовірно, що його адміністрація буде більш «дружньою до бізнесу», коли справа доходить до регулювання ШІ. Тим не менш, ми очікуємо, що Сполучені Штати продовжать посилювати обмеження на експорт технологій, пов’язаних зі штучним інтелектом, до передбачуваних супротивників, і що ризики для національної безпеки, пов’язані зі штучним інтелектом, будуть продовжувати вивчатися і надалі.
Оскільки уряд США уникає регулювання ШІ на федеральному рівні, штати, ймовірно, візьмуть на себе цю функцію, як це було з законами про конфіденційність. Деякі штати США, зокрема Каліфорнія, Юта і Колорадо, також ухвалили закони про ШІ. Закон штату Колорадо накладає найбільш значні зобов’язання як на провайдерів, так і на розробників певних систем ШІ «високого ризику», хоча губернатор штату заявив, що очікує внесення поправок до закону до того, як він набуде чинності у 2026 році. Інші штати США, зокрема Техас, ймовірно, розглядатимуть законопроекти про ШІ у 2025 році. Хоча ці закони багато в чому збігаються, між ними є й суттєві відмінності, зокрема в тому, якою мірою вони покладають відповідальність на розробників ШІ-продуктів або на тих, хто їх впроваджує.
Існуючі закони переорієнтовано
Більшість країн ще не запропонували всеосяжних законів, спеціально спрямованих на широке регулювання ШІ, але вони все ще можуть використовувати свої існуючі повноваження для його регулювання. Хоча законодавці часто неохоче приймають нові закони, посилаючись на ризики придушення інновацій і побоювання, що швидкий розвиток технологій ШІ призведе до того, що будь-яке законодавство швидко застаріє, багато юрисдикцій, включаючи Великобританію, Австралію, Японію, Сінгапур і США на федеральному рівні, відзначили, що їхні існуючі регуляторні повноваження можуть і будуть застосовані до цих нових технологій.
Багато регуляторних органів у США та інших країнах зосередили свою увагу на аспектах ШІ в межах існуючих повноважень, зокрема на захисті даних і конфіденційності, рівності та боротьбі з дискримінацією, інтелектуальній власності (ІВ), відповідальності за якість продукції та захисті прав споживачів, а також на недостовірній інформації. Це призвело до появи безлічі нових рекомендацій, політичних пропозицій і сфер регулювання, які необхідно враховувати компаніям, що розробляють або впроваджують ШІ.
Регуляторні органи з питань конфіденційності – особливо в Європі – взяли на себе ініціативу з регулювання ШІ, випустивши нові рекомендації, розпочавши розслідування та застосувавши санкції до компаній за використання ШІ.
На початку цього року кілька американських регуляторних органів опублікували спільну заяву щодо дотримання громадянських прав, чесної конкуренції, захисту прав споживачів та рівних можливостей в автоматизованих системах. Ця спільна заява була оприлюднена широким колом регуляторів, серед яких Бюро фінансового захисту споживачів, Міністерство юстиції, Комісія з питань рівних можливостей у сфері зайнятості, Федеральна торгова комісія США (ФТК), Міністерство освіти, Міністерство охорони здоров’я та соціальних служб, Міністерство внутрішньої безпеки, Міністерство житлового будівництва та міського розвитку і Міністерство праці.
Федеральна торгова комісія США активно займається питаннями ШІ і публічно заявляла про свою зацікавленість у правозастосуванні, пов’язаному з претензіями до реклами, неправомірним використанням продуктів для здійснення шахрайства та афер, проблемами конкуренції, а також захистом прав інтелектуальної власності та конфіденційності даних. FTC дедалі частіше проводить розслідування та примусові заходи, пов’язані зі штучним інтелектом, і нещодавно оголосила про примусові заходи щодо неправдивої інформації, пов’язаної зі штучним інтелектом. Вона також оголосила про розслідування пов’язаного зі штучним інтелектом «наглядового ціноутворення» (тобто використання технологій, таких як штучний інтелект, разом з особистою інформацією про споживачів для розподілу людей за категоріями і встановлення індивідуальної цільової ціни на продукт або послугу). Крім того, фінансові регулятори в США посилюють тиск на компанії, які перебільшують свої можливості ШІ перед інвесторами та споживачами (так зване «відмивання» ШІ).
Регуляторні дії – це ще не вся історія
Регуляторні дії – це не єдиний правовий або управлінський тиск, з яким доводиться стикатися компаніям, що розробляють або використовують штучний інтелект.
Уряди в усьому світі докладають величезних зусиль для заохочення розробки добровільних стандартів для ШІ. Клієнти та інші контрагенти можуть почати очікувати, що дотримання цих добровільних стандартів свідчитиме про зрілість управління ШІ.
Багато компаній у Сполучених Штатах також стикаються з посиленою увагою до використання ШІ з боку акціонерів і неурядових організацій. Останнім часом спостерігається тенденція до подання акціонерами петицій, спрямованих на отримання більш детальної інформації про стратегію компанії у сфері ШІ.
Ми також спостерігаємо зростання кількості приватних судових процесів, пов’язаних зі штучним інтелектом, у тому числі щодо передбачуваного зловживання правами інтелектуальної власності, дискримінації та дій акціонерів. Крім того, у США зростає кількість колективних позовів, пов’язаних зі штучним інтелектом, у тому числі щодо несправедливих і дискримінаційних результатів автоматизованого ухвалення рішень про страхові виплати або видачу іпотечних кредитів, а також щодо порушення права на приватність. Ми очікуємо, що інші юрисдикції, такі як Європейський Союз, наслідуватимуть цю тенденцію.
Як повинні реагувати ради директорів
Компанії, які розробляють або використовують штучний інтелект, повинні бути готовими до того, що їм доведеться орієнтуватися в мінливому регуляторному ландшафті, який складається з безлічі різних регуляторних режимів у різних країнах, а також до ризику проведення численних розслідувань окремими національними регуляторними органами. Наглядові ради відіграють вирішальну роль у забезпеченні того, щоб компанії розуміли і враховували ризики та можливості, пов’язані зі штучним інтелектом, і мають для цього відповідні обов’язки.
Орієнтуватися в регуляторних та інших ризиках – це насамперед забезпечити постановку правильних запитань і впровадження відповідних процесів, щоб розробка або використання ШІ відповідали очікуванням регуляторів та інших зацікавлених сторін, таких як акціонери, співробітники та клієнти.
Наглядові ради повинні відповісти на ці запитання, запитавши, чи мають їхні компанії системи управління ШІ, сферу дії цих процесів, а також чи є достатній персонал і ресурси для підтримки цих мандатів. Управління та ризик-менеджмент обов’язково повинні охоплювати не лише регуляторні та юридичні ризики, а й компанії, які ігнорують ці ризики, швидше за все, опиняться у конфлікті з регуляторами, а можливо, і з власними клієнтами.
Ефективна система корпоративного управління також може допомогти радам директорів скористатися стратегічними можливостями та уникнути фінансових помилок. Вона може допомогти забезпечити компанії хороші можливості для використання штучного інтелекту для скорочення витрат, розробки нових продуктів і залучення інвестицій, а також гарантувати, що бізнес не витрачатиме ресурси на проекти з високим ризиком і низькою віддачею.
Правильне управління штучним інтелектом вимагає врахування різних аспектів, зокрема, таких:
- Забезпечення наявності у ради директорів відповідних навичок і ресурсів для належної взаємодії зі штучним інтелектом.
- Розуміння структури управління компанією, зокрема її мандатів, повноважень і сфер управління ризиками.
- Оцінити, чи має компанія достатні процеси для забезпечення регулярного перегляду структури управління та її гнучкості для адаптації до ймовірного швидкого подальшого розвитку технологій та регулювання у сфері штучного інтелекту.
- Розуміння того, як компанія ідентифікувала та пом’якшила основні ризики, а також визначення очікувань від керівництва щодо того, який рівень прийняття ризиків слід довести до відома ради директорів.
- Обговорення того, чи є ризики, пов’язані з розробкою або використанням ШІ, значними і суттєвими, а також того, як компанія планує відповідати новим вимогам, що з’являються, або реагувати на них.
- Забезпечення надання акціонерам точної інформації про використання компанією штучного інтелекту, а також про обмеження та ризики, пов’язані з таким використанням.
Оскільки штучний інтелект стає все більш важливим для збереження конкурентних переваг, регуляторний контроль буде тільки посилюватися. Ради директорів, які вже зараз розуміють, як ці вимоги можуть перешкоджати або сприяти використанню та розвитку штучного інтелекту, матимуть більше шансів ефективно скористатися можливостями, які надає штучний інтелект.
Джерело: https://www.directorsandboards.com/board-issues/ai/staying-ahead-of-ai-regulation/