За останні кілька місяців ви, можливо, читали репортаж про статтю, в співавторстві зі Стівеном Гокінгом, в якій обговорювалися ризики, пов'язані зі штучним інтелектом. У статті передбачається, що ШІ може становити серйозну небезпеку для людства. Хокінг там не самотній - Ілон Маск і Пітер Тіль - інтелектуальні громадські діячі, які висловили аналогічні побоювання (Тіль вклав понад 1,3 мільйона доларів у дослідження проблеми і можливих рішень).
Освітлення статті Гокінга і коментарів Маск було, якщо не сказати занадто тонко, трохи веселим. Тон був дуже схожий на «поглянь на цю дивну річ, про яку турбуються всі ці гіки». Мало уваги приділяється ідеї, що якщо деякі з найрозумніших людей на Землі попереджають вас про те, що щось може бути дуже небезпечним, можливо, варто послухати.
Це зрозуміло - захоплення штучного інтелекту світом, безумовно, звучить дуже дивно і неправдоподібно, можливо, через ту величезну увагу, яку автори-фантасти приділяють цій ідеї. Отже, що ж так налякало всіх цих номінально розсудливих, раціональних людей?
Що таке інтелект?
Щоб говорити про небезпеку штучного інтелекту, може бути корисно зрозуміти, що таке інтелект. Щоб краще зрозуміти проблему, подивімося на іграшкову архітектуру ШІ, яку використовують дослідники, які вивчають теорію міркувань. Цей іграшковий AI називається AIXI і має низку корисних властивостей. Його цілі можуть бути довільними, він добре масштабується з обчислювальною потужністю, а його внутрішня структура дуже проста і зрозуміла.
Крім того, ви можете реалізувати прості, практичні версії архітектури, які можуть, наприклад, грати в Pacman, якщо хочете. AIXI - це продукт дослідника штучного інтелекту на ім'я Маркус Хаттер, можливо, головний спеціаліст з алгоритмічного інтелекту. Це він говорить у відео вище.
AIXI дивовижно простий: у ньому три основні компоненти: учень, планувальник і функція корисності.
- Учень бере ланцюжки бітів, які відповідають ввідним даним про зовнішній світ, і переглядає комп'ютерні програми, поки не знаходить ті, які виробляють свої спостереження в якості вихідних даних. Ці програми разом дозволяють йому робити припущення про те, як буде виглядати майбутнє, просто виконуючи кожну програму вперед і зважуючи ймовірність результату по довжині програми (реалізація бритви Оккама).
- Планувальник переглядає можливі дії, які може зробити агент, і використовує модуль учня, щоб передбачити, що станеться, якщо він зробить кожне з них. Потім він оцінює їх відповідно до того, наскільки хорошими або поганими є прогнозовані результати, і вибирає порядок дій, який максимізує добротність очікуваного результату, помножену на очікувану ймовірність його досягнення.
- Останній модуль, функція корисності, являє собою просту програму, яка приймає опис майбутнього стану світу і обчислює для нього оцінку корисності. Цей показник корисності показує, наскільки хороший або поганий цей результат, і використовується планувальником для оцінки майбутнього стану світу. Функція корисності може бути довільною.
- Узяті разом, ці три компоненти утворюють оптимізатор, який оптимізує для конкретної мети, незалежно від світу, в якому він знаходиться.
Ця проста модель є базовим визначенням інтелектуального агента. Агент вивчає своє середовище, будує її моделі і потім використовує ці моделі, щоб знайти курс дій, який максимізує шанси того, що він отримає те, що хоче. AIXI схожа за структурою на AI, який грає в шахи або інші ігри з відомими правилами, за винятком того, що він може визначати правила гри, граючи в неї, починаючи з нульового рівня знань.
AIXI, маючи достатньо часу для обчислень, може навчитися оптимізувати будь-яку систему для будь-якої мети, якою б складною вона не була. Це в цілому інтелектуальний алгоритм. Зверніть увагу, що це не те ж саме, що володіння людським інтелектом (ШІ, натхненний - це зовсім інша тема,). Іншими словами, AIXI може перехитрити будь-яку людину при виконанні будь-якого інтелектуального завдання (при наявності достатньої обчислювальної потужності), але він може не усвідомлювати свою перемогу.
Як практичний ШІ, у AIXI багато проблем. По-перше, у нього немає можливості знайти ті програми, які виробляють його висновок. Це алгоритм грубої сили, що означає, що він не практичний, якщо у вас немає випадково створеного комп'ютера. Будь-яка фактична реалізація AIXI за необхідності є приблизною, і (сьогодні), як правило, досить грубою. Тим не менш, AIXI дає нам теоретичне уявлення про те, як міг би виглядати потужний штучний інтелект і як він міг би міркувати.
Простір цінностей
Якщо ви вже займалися комп'ютерним програмуванням, ви знаєте, що комп'ютери противні, педантично і механічно буквальні. Машина не знає і не піклується про те, що ви хочете від неї: вона робить тільки те, що їй було сказано. Це важливе поняття, коли йдеться про штучний інтелект.
Маючи це на увазі, уявіть, що ви винайшли потужний штучний інтелект - ви придумали розумні алгоритми для генерації гіпотез, що відповідають вашим даним, і для складання хороших планів кандидатів. Ваш ШІ може вирішувати загальні проблеми і може робити це ефективно на сучасному комп'ютерному обладнанні.
Тепер настав час вибрати корисну функцію, яка буде визначати, якою ШІ варто. Що ви повинні попросити це оцінити? Пам'ятайте, що машина буде неприємно, педантично буквально ставитися до будь-якої функції, яку ви просите її максимізувати, і ніколи не зупиниться - в машині немає примари, який коли-небудь «прокинеться» і вирішить змінити свою службову функцію, незалежно від того, скільки підвищення ефективності це робить на свій розсуд.
Еліезер Юдковскі висловився так:
Як і в усьому комп'ютерному програмуванні, основна проблема і істотна складність AGI полягає в тому, що якщо ми напишемо неправильний код, ШІ не буде автоматично переглядати наш код, відзначати помилки, з'ясовувати, що ми дійсно хотіли сказати, і робити це. замість. Непрограмісти іноді представляють AGI або комп'ютерні програми в цілому як аналог слуги, який беззастережно виконує накази. Але справа не в тому, що ШІ абсолютно слухняний своєму коду; швидше, ШІ - це просто код.
Якщо ви намагаєтеся керувати фабрикою, і ви наказуєте машині цінувати виготовлення скріпок, а потім надаєте їй контроль над купою фабричних роботів, ви можете повернутися на наступний день, щоб виявити, що в ній вичерпані всі інші види сировини, вбив всіх ваших співробітників і зробив скріпки з їх останків. Якщо, намагаючись виправити свою помилку, ви перепрограмуєте машину, щоб просто зробити всіх щасливими, ви можете повернутися наступного дня і виявити, що вона вводить дроти в мізки людей.
Справа в тому, що у людей є багато складних цінностей, які, як ми припускаємо, неявно поділяються з іншими умами. Ми цінуємо гроші, але більше цінуємо людське життя. Ми хочемо бути щасливими, але для цього не обов'язково вставляти дроти в мозок. Ми не відчуваємо необхідності роз'яснювати ці речі, коли ми даємо інструкції іншим людям. Однак ви не можете робити подібні припущення при розробці функції корисності машини. Найкращі рішення в рамках бездушної математики простої функції корисності часто є рішеннями, які людські істоти відмовилися б від морально жахливих.
Роздільна здатність інтелектуального механізму максимізувати наївну функцію корисності майже завжди буде катастрофічною. Як каже оксфордський філософ Нік Бостом,
Ми не можемо безболісно припустити, що суперінтелект неминуче поділяє будь-які кінцеві цінності, стереотипно пов'язані з мудрістю та інтелектуальним розвитком людини, - наукова цікавість, доброзичливе ставлення до інших, духовна просвіта і споглядання, відмова від матеріального осягнення, смак до вишуканої культури або прості радості в житті, смирення і самовідданість, і так далі.
Що ще гірше, дуже і дуже важко визначити повний і докладний список всього, що люди цінують. У цьому питанні багато аспектів, і забування навіть одного з них потенційно катастрофічне. Навіть серед тих, кого ми знаємо, є тонкощі і складнощі, які ускладнюють їх запис у вигляді чистих систем рівнянь, які ми можемо дати машині як функцію корисності.
Деякі люди, прочитавши це, приходять до висновку, що створення ШІ за допомогою службових функцій - жахлива ідея, і ми повинні просто розробити їх по-іншому. Тут є і погані новини - формально можна довести, що будь-який агент, у якого немає чогось еквівалентного функції корисності, не може мати послідовних уподобань щодо майбутнього.
Рекурсивне самовдосконалення
Одне з рішень вищезгаданої дилеми полягає в тому, щоб не дати агентам ШІ можливість завдавати людям шкоди: дати їм тільки ті ресурси, які їм необхідні для вирішення проблеми так, як ви хочете, щоб вона була вирішена, уважно стежити за ними і тримати їх подалі від можливостей заподіяти велику шкоду. На жаль, наша здатність керувати інтелектуальними машинами досить сумнівна.
Навіть якщо вони не набагато розумніші за нас, існує можливість для «початкового завантаження» комп'ютера - зібрати краще обладнання або вдосконалити власний код, що зробить його ще розумнішим. Це може дозволити машині перестрибнути людський інтелект на багато порядків, перехитрити людей в тому ж сенсі, що і люди перехитрити кішок. Цей сценарій був вперше запропонований людиною на ім'я І.Дж. Гуд, який працював над проектом криптоаналізу Enigma з Аланом Тьюрінгом під час Другої світової війни. Він назвав це «розвідувальним вибухом» і описав це питання так:
Нехай надінтелектуальна машина буде визначена як машина, яка може набагато перевершити всю інтелектуальну діяльність будь-якої людини, якою б розумною вона не була. Оскільки проектування машин є одним з видів інтелектуальної діяльності, надінтелектуальні машини можуть проектувати ще більш досконалі машини; тоді, безсумнівно, відбудеться «вибух інтелекту», і інтелект людини залишиться далеко позаду. Таким чином, перша надінтелектуальна машина - це останній винахід, який людина коли-небудь повинна була зробити, за умови, що машина досить слухняна.
Не гарантується, що вибух інтелекту можливий у нашому всесвіті, але це здається ймовірним. З часом комп'ютери стають швидшими і отримують базові знання про нарощування інтелекту. Це означає, що потреба в ресурсах, щоб зробити цей останній перехід до загального, підвищується інтелектуального рівня, падає все нижче і нижче. У якийсь момент ми опинимося в світі, в якому мільйони людей можуть знайти Best Buy і підібрати апаратну і технічну літературу, необхідну для створення самовдосконаленого штучного інтелекту, який, як ми вже створили, може бути дуже небезпечно. Уявіть собі світ, в якому ви могли б робити атомні бомби з палиць і каменів. Таке майбутнє ми обговорюємо.
І, якщо машина дійсно здійснює цей стрибок, вона може дуже швидко випередити людський вид з точки зору інтелектуальної продуктивності, вирішуючи проблеми, які не може вирішити мільярд людей, так само, як люди можуть вирішувати проблеми, які може мільярд кішок ". т. зв.
Він міг би створювати потужних роботів (або біо, або нанотехнології) і відносно швидко набувати здатність змінювати світ на свій розсуд, і ми мало що могли б з цим вдіяти. Такий інтелект міг би позбавити Землю та решту Сонячної системи запасних частин без особливих проблем на шляху до того, що ми сказали. Здається ймовірним, що такий розвиток подій був би катастрофічним для людства. Штучний інтелект не повинен бути злим, щоб зруйнувати світ, просто катастрофічно байдужий.
Як кажуть, «машина не любить і не ненавидить вас, але ви зроблені з атомів, які вона може використовувати для інших цілей».
Оцінка ризиків і пом'якшення їх наслідків
Отже, якщо ми визнаємо, що проектування потужного штучного інтелекту, який максимізує просту функцію корисності, є поганим, скільки проблем ми насправді? Скільки у нас є часу, перш ніж стане можливим створювати такі машини? Це, звичайно, складно сказати.
Розробники штучного інтелекту роблять успіхи. Машини, які ми будуємо, і проблеми, які вони можуть вирішити, неухильно зростають у своїх масштабах. У 1997 році Deep Blue міг грати в шахи на рівні вище людського гросмейстера. У 2011 році Вотсон з IBM міг читати і синтезувати достатньо інформації досить глибоко і швидко, щоб перемагати кращих гравців у відкритій грі в питання і відповіді, що рясніє каламбурами і грою слів - це великий прогрес за чотирнадцять років.
Прямо зараз Google вкладає великі кошти в дослідження глибокого навчання, методики, яка дозволяє створювати потужні нейронні мережі шляхом побудови ланцюжків більш простих нейронних мереж. Ці інвестиції дозволяють йому домогтися серйозного прогресу в розпізнаванні мови і зображень. Їх останнє придбання в цій області - стартап Deep Learning під назвою DeepMind, за який вони заплатили близько 400 мільйонів доларів. Як частина умов угоди, Google погодилася створити раду з етики, щоб забезпечити безпечний розвиток їх технології ШІ.
Водночас IBM розробляє Watson 2.0 і 3.0, системи, здатні обробляти зображення і відео і виступати на захист висновків. Вони дали просту, ранню демонстрацію здатності Уотсона синтезувати аргументи за і проти теми у відео демонстрації нижче. Результати недосконалі, але, незважаючи на це, вражаючий крок.
Жодна з цих технологій сама по собі не небезпечна: штучний інтелект як область все ще бореться за те, щоб відповідати здібностям, освоєним маленькими дітьми. Комп'ютерне програмування і дизайн штучного інтелекту - це дуже складний, високорівневий когнітивний навик, і він, ймовірно, стане останнім людським завданням, яким оволодіють машини. Перш ніж ми доберемося до цієї точки, у нас також будуть всюдисущі машини, які можуть керувати., займайтеся медициною і юриспруденцією, а також, можливо, іншими речами, з глибокими економічними наслідками.
Час, необхідний нам, щоб дістатися до переломного моменту самовдосконалення, залежить тільки від того, наскільки швидко у нас з'являться хороші ідеї. Прогнозувати технологічні досягнення такого роду, як відомо, складно. Не здається необґрунтованим, що ми зможемо створити сильний ШІ за двадцять років, але також не представляється необґрунтованим, що це може зайняти вісімдесят років. У будь-якому випадку, це станеться врешті-решт, і є підстави вважати, що коли це станеться, це буде надзвичайно небезпечно.
Отже, якщо ми визнаємо, що це буде проблемою, що ми можемо з цим вдіяти? Відповідь полягає в тому, щоб переконатися, що перші інтелектуальні машини безпечні, щоб вони могли завантажуватися до значного рівня інтелекту, а потім захистити нас від небезпечних машин, створених пізніше. Ця «безпека» визначається поділом людських цінностей і прагненням захистити і допомогти людству.
Оскільки насправді ми не можемо сісти і запрограмувати людські цінності в машину, можливо, потрібно розробити службову функцію, яка вимагатиме від машини спостерігати за людьми, визначати наші цінності і потім намагатися максимізувати їх. Щоб зробити цей процес розробки безпечним, також може бути корисно розробити штучний інтелект, який спеціально розроблений так, щоб не мати переваг щодо їх функцій корисності, що дозволяє нам виправляти їх або відключати без опору, якщо вони починають збиватися зі шляху під час розвитку.
Багато проблем, які нам потрібно вирішити для побудови безпечного машинного інтелекту, математично складні, але є підстави вважати, що їх можна вирішити. Над цією проблемою працюють кілька різних організацій, у тому числі Інститут майбутнього людства в Оксфорді і Науково-дослідний інститут машинного інтелекту (який фінансує Пітер Тіль).
MIRI особливо зацікавлена в розвитку математики, необхідної для створення Дружнього ШІ. Якщо виявиться, що можливе самозавантаження штучного інтелекту, то спочатку розробка такого роду технології «Дружнього ШІ», у разі успіху, може виявитися найважливішою річчю, яку коли-небудь робили люди.
Як ви думаєте, штучний інтелект небезпечний? Ви стурбовані тим, що може принести майбутнє ШІ? Поділіться своїми думками в розділі коментарів нижче!
