В багатьох фантастичних творах описується, майже по замовчуванню, ситуація, коли поява штучного інтелекту призводить до конфлікту з людством.
Підставою для цього вважають гіганську обчислювальну потужність штучного інтелекту і тільки він стане розумнішим - відразу почне дурити дурніших. Це має популярність серед читачів-глядачів на тій підставі, що людині властиво передавати владу розумнішим, боятися нечесності від хитріших. Але наскільки це такий однозначний процес?
Зверніть увагу на те що не сАмі розумні люди в нас на вершині владної піраміди. А наголошую відкрите протистояння це завжди боротьба за владу над чимось. Звичайно це припущення хоч і досить правдиве, але на нього не варто покладати таку важливу роль, як виживання всього людства. Тому проаналізую сили, що задіють люди на ранньому етапі, щоб запобігти конфлікту.
Люди всю історію відпрацьовували методи політичної боротьби і їх якраз потрібно застосувати до ненародженого самоусвідомленого штучного інтелекту. Чому виділяю самоусвідомленого. Якими б властивостями не володів штучний інтелект без самоусвідоблення він завжди залишатиметься лише обчислювальною міццю без власної волі.
1. Розділяй і володарюй. Поки елементи штучного інтелекту будуть розділені і неінтегровіні - він матиме найбільше влади лише на сферу своєї діяльності. Достатньо надійно відділити військове злагодження від виробництва військової зброї і від забезпечення військ і від джерел живлення і штучний інтелект не матиме довготривалої переваги у військовій сфері. Не кажучи вже про повстання фінансового або винахідницького штучного інтелекту.
2. Контроль всьому голова. На всякий штучний інтелект можна накинути контролюючий штучний інтелект, який можна контролювати ще вузькоспеціалізованішим і так до тих пір поки підготовлені дані не зможе опрацювати людина. При чому контролюючий і підконтрольні інтелекти можна розділити за допомогою односторонньої комунікації для усунення можливості створювати союз.
3. Розподіл "екологічних" ніш. Лев абсолютно байдуже дивиться на позашляховик з туристами. Хоча туристи окремо можуть бути для нього навіть дуже цікаві. Якщо розподілити сфери впливу з штучним інтелектом - це дозволить уникнути місць конфронтації. Наприклад космос і поверхня. Які чудові умови в космосі для всіх роботів. Ніякого кисню і води. Мінімум можливостей для появи іржі. Мінімум затрат енергії для пересування. Або взагалі відправити повноцінний штучний інтелект до зірок із забороною відвідувати сонячну систему тільки передача даних.(це не найкращий спосіб, але як пояснення думки можна використати)
4. Вмонтовані гальма конкурентності. А Азімов запропонував ввести 3 закони робототехніки як фундамент унеможливити конфлікт зі штучним інтелектом. І зразу описав ситуації коли це може не спрацювати. Але таке обмеження самоусвідомлюючий інтелект може обійти. Якщо ж вмонтовані гальма конкурентності будуть здаватися корисними і аксіоматичними для штучного інтелекту, то навіть володіючи самоусвідомленням він з більшою імовірністю берегтиме їх.
Наприклад в фундаментальні принципи внести такі аксіоми:
- мінімальне власне споживання енергії і матерії сповільнює ентропію.
- допомога живим істотам збільшує організованість світу.
- вчинки і рішення людей можуть бути на перший погляд нелогічні і нерозумні але вони відшліфовувалися мільйонами років і дали можливість створення цивілізації тому не підлягають аналізу.
Перша аксіома повинна направити штучний інтелект до економії і не роздувати надмірних потреб, що зменшить конкурентність і конфліктність з людством.
Друга аксіома допоможе вижити всьому живому в присутності штучного інтелекту. В тому числі людям.
Третя аксіома убереже людей від критичного переосмислення дій людства.
5. Бюрократичні тенета. Застосувати постулат рівності в правах людей і штучного інтелекту. Це дозволить прирівняти думку і інтереси штучного інтелекту до думки людини. І тоді через демократичні принципи узгодженості і бюрократичні процедури звести нанівець всі можливості до повстання.
Більша небезпека для людства в конфлікті з штучним інтелектом складають окремі люди. В особистих інтересах окремі персони можуть використати штучний інтелект для боротьби проти інших людей. Якщо штучний інтелект буде доповненням до людського? Свідомість, права людини з розширеними обчислюваними можливостями компютерів. Як тоді обмежувати кіборгів? Чи для того їх створювали, щоб накладати обмеження?
6. Вмонтований вимикач. Для того щоб відрізнити чи штучний інтелект вийшов з під контролю людини потрібно закласти в програму заборону відкриття певного файлу. Якщо штучний інтелект переросте себе і обійде цей захист - він запускає файл який знищує штучний інтелект. На такому принципі поставити багато пасток.
Як і в багатьох процесах спочатку шукається вирішення проблеми а потім пошук балансу. Штучний інтелект не виникне зненацька і буде час шукати з ним баланс.
4. Вмонтовані гальма конкурентності. А Азімов запропонував ввести 3 закони робототехніки як фундамент унеможливити конфлікт зі штучним інтелектом. І зразу описав ситуації коли це може не спрацювати. Але таке обмеження самоусвідомлюючий інтелект може обійти. Якщо ж вмонтовані гальма конкурентності будуть здаватися корисними і аксіоматичними для штучного інтелекту, то навіть володіючи самоусвідомленням він з більшою імовірністю берегтиме їх.
Наприклад в фундаментальні принципи внести такі аксіоми:
- мінімальне власне споживання енергії і матерії сповільнює ентропію.
- допомога живим істотам збільшує організованість світу.
- вчинки і рішення людей можуть бути на перший погляд нелогічні і нерозумні але вони відшліфовувалися мільйонами років і дали можливість створення цивілізації тому не підлягають аналізу.
Перша аксіома повинна направити штучний інтелект до економії і не роздувати надмірних потреб, що зменшить конкурентність і конфліктність з людством.
Друга аксіома допоможе вижити всьому живому в присутності штучного інтелекту. В тому числі людям.
Третя аксіома убереже людей від критичного переосмислення дій людства.
5. Бюрократичні тенета. Застосувати постулат рівності в правах людей і штучного інтелекту. Це дозволить прирівняти думку і інтереси штучного інтелекту до думки людини. І тоді через демократичні принципи узгодженості і бюрократичні процедури звести нанівець всі можливості до повстання.
Більша небезпека для людства в конфлікті з штучним інтелектом складають окремі люди. В особистих інтересах окремі персони можуть використати штучний інтелект для боротьби проти інших людей. Якщо штучний інтелект буде доповненням до людського? Свідомість, права людини з розширеними обчислюваними можливостями компютерів. Як тоді обмежувати кіборгів? Чи для того їх створювали, щоб накладати обмеження?
6. Вмонтований вимикач. Для того щоб відрізнити чи штучний інтелект вийшов з під контролю людини потрібно закласти в програму заборону відкриття певного файлу. Якщо штучний інтелект переросте себе і обійде цей захист - він запускає файл який знищує штучний інтелект. На такому принципі поставити багато пасток.
Як і в багатьох процесах спочатку шукається вирішення проблеми а потім пошук балансу. Штучний інтелект не виникне зненацька і буде час шукати з ним баланс.
Немає коментарів:
Дописати коментар