Штучний інтелект: винагороди, ризики та регулювання

Від невідомої потужності до надійного інструменту, побудова майбутнього штучного інтелекту полягає в тому, щоб ставити правильні запитання.

Щорічна зустріч ISO відбудеться в Брісбені, Австралія, 18-22 вересня 2023 року. ISO та її члени приєдналися до тих, хто змінює світ, щоб продемонструвати, як міжнародні стандарти допомагають долати найбільші виклики світу. Наша серія гостьових статей, опублікована напередодні заходу, містить інформацію про різноманітні теми, які обговорюватимуться протягом тижня.

«Справа в тому, що ми не можемо думати про ризики штучного інтелекту відповідно до звичайних принципів.»

Доктор Кобі Лейнс

Почесний старший науковий співробітник відділу вивчення війни Королівського коледжу Лондона

У повсякденному житті найпоширеніша розмова про штучний інтелект (AI) звучить так: «Я використовував ChatGPT, і він зробив …..». Однак лідери компаній, уряди та міжнародні організації ведуть зовсім іншу розмову. Вони розповідають про те, як можна використовувати переваги штучного інтелекту таким чином, щоб переважувати ризики.

Деякі стверджують, що нам потрібно терміново регулювати AI, інші порівнюють AI з ядерним рухом, а деякі навіть попереджають, що це призведе до кінця світу. У той же час, багато консультантів і стартапів хочуть переконати нас, що штучний інтелект є панацеєю від усіх наших комерційних і особистих бід, включаючи кохання, життя та летальність. Поки рано робити багато висновків, але важливо, щоб правильні люди вели правильні розмови. Тільки тоді ця новаторська технологія зможе підтримати та розширити можливості людства.

Ставити правильні запитання

Правда полягає в тому, що існує багато розмов про штучний інтелект, яких ми не ведемо, а повинні вести. Вони включають ширші суспільні наслідки прискорення нерівності та зведення людей до точки даних, до точки, коли їх можна представити як зайвих або втратити цінність. Кожен розвиток науки протягом історії мав переваги та ризики. Насправді історичні невдачі можуть навчити нас урокам, щоб уникнути тих самих помилок. Хоча штучний інтелект має певні відмінності, він створює багато тих самих потенційних пасток, що й попередні зміни парадигми. Надмірні обіцянки, занижені ризики та комерційні інтереси, що впливають на розмови, не є чимось новим. Так що нового? І чому ми маємо піклуватися?

Багато з того, про що ми говоримо, є старим. Мовні моделі існують з тих пір, як Вайзенбаум, творець одного з перших чат-ботів, “Еліза”, висунув ідею магічного мислення навколо мовних моделей у 1950-х роках. Зовсім недавно спільноти з питань даних почали висловлювати занепокоєння щодо деяких пропозицій щодо використання ChatGPT2, зокрема для автоматизації винесення вироків, потенційно до смертної кари, без втручання людини. Незважаючи на те, що технологія тепер перевантажена більшими наборами даних, багато старих проблем залишаються. Новим є швидкість і масштаб цих моделей, а також те, звідки надходять їхні дані.

Управління

Доброю новиною є те, що вже існує цілий набір інструментів управління. Це включає міжнародне та національне законодавство про інтелектуальну власність, корпоративну поведінку, права людини, дискримінацію, контракти та конфіденційність – це лише деякі з них. Багато експертів у всьому світі, наприклад професор Едвард Сантоу, давно виступають за підвищення кваліфікації юристів, щоб вони могли розуміти та застосовувати як існуюче законодавство, так і нові технології у своїй професії.

Однак, паралельно із законодавством, слід також розглянути можливість більшого регулювання. Уже існують нормативні рамки, такі як нещодавно сформульований Закон ЄС про штучний інтелект, Національний інститут стандартів і технологій і нова політика Китаю щодо штучного інтелекту. Але деякі потребують оновлення чи перегляду – і є прогалини. А там, де є прогалини, треба регулювати.

Зменшення ризику, максимізація винагороди

Справа в тому, що ми не можемо думати про ризики штучного інтелекту відповідно до звичайних принципів. Ендрю Мейнард, професор Університету університету та багаторічний експерт із ризиків, твердо стоїть на цьому: традиційне мислення просто не «доведе нас туди, куди ми повинні бути».

Міжнародні стандарти, такі як ISO/IEC JTC 1/SC 42 щодо управління AI, допоможуть подолати ці прогалини в регулюванні. Вони дають можливість особам, які приймають рішення, створювати узгоджені дані та процеси таким чином, щоб їх можна було перевірити. Це додасть цінності бізнесу в довгостроковій перспективі багатьма способами, включно з екологічною звітністю, працездатністю та довірою зацікавлених сторін. Такий підхід гарантує, що винагороди переважують ризики відповідно до нормативних актів та інших інструментів управління.

Етика даних також відіграє свою роль. За правильного використання та застосування етика даних може сприяти виникненню бажання — від рішень керівництва до повсякденних завдань — «робити щось не просто тому, що ти можеш, а тому, що ти повинен».

Але найголовніше те, що міжнародні стандарти можуть гарантувати, що правильні розмови ведуться потрібними людьми, використовуючи спільну мову. Може знадобитися час, щоб створити необхідні інструменти регулювання та культуру. Але міжнародні стандарти можуть допомогти забезпечити правильний баланс ризику та винагороди.

Про Кобі Лейнс

Доктор Кобі Лейнс (GAICD) є міжнародним експертом у сфері AI, міжнародного права та управління. Дослідниця цифрової етики, плідний оратор і автор численних публікацій, вона відіграла ключову роль у розвитку розуміння AI. Її робота поєднує інновації та реальні програми, роблячи складні концепції доступними для різноманітної аудиторії.

Кобі Лейнс виступатиме на майбутній щорічній зустрічі ISO. Вступайте в розмову! Приєднуйтеся до нашої онлайн-сесії «Готові чи ні, ось іде AI », щоб розкрити політичні, соціальні та етичні наслідки штучного інтелекту. Зареєструватися тут.

Про щорічну зустріч ISO

Щорічна зустріч ISO є головною у світі подією для міжнародної спільноти стандартів. Вона збирає 168 національних органів стандартизації з усього світу, а також вражаюче коло представників уряду, промисловості та громадянського суспільства. Цей форум високого рівня є унікальною можливістю взяти участь у своєчасному обговоренні нових тенденцій і викликів, пов’язаних з міжнародними стандартами та їх роллю в досягненні глобального порядку денного сталого розвитку.

Джерело: iso.org