Портфоліо до проекту "Штучний інтелект" Кісенка Олексія, 2018

Тема статті

Небезпеки використання штучного інтелекту

Опис проблеми

Термін “інтелект” (intelligence) походить від латинського поняття intellectus – “розум”. Штучний інтелект (artificial intelligence) розуміється як здатність автоматичних систем брати на себе функції людини, вибирати і приймати оптимальні рішення на основі раніше отриманого життєвого досвіду і аналізу зовнішніх впливів. Будь-який інтелект спирається на діяльність. У свою чергу, діяльність мозку – це мислення. Інтелект і мислення пов’язані багатьма цілями і завданнями: розпізнавання ситуацій, логічний аналіз, планування поведінки. Характерними особливостями інтелекту є здатність до навчання, узагальнення, накопичення досвіду, адаптація до умов, що змінюються в процесі вирішення завдань. Виходячи з самого визначення штучного інтелекту випливає основна проблема у створенні інтелекту: можливість або неможливість моделювання мислення людини. У сучасному розумінні термін “штучний інтелект” – це науковий напрям, в рамках якого ставляться і розв’язуються завдання апаратного і програмного моделювання тих видів людської діяльності, які традиційно вважаються інтелектуальними, тобто потребують певних розумових зусиль. У Державному стандарті України ДСТУ 2938-94 (“Системи оброблення інформації”) штучний інтелект визначається як “здатність систем оброблення даних виконувати функції, що асоціюються з інтелектом людини – логічне мислення, навчання та самовдосконалення”. Швидке створення інтелектуальних машин, які будуть “розумніші” за людину, вчені прогнозують, починаючи з середини XX ст. Ален Н’юел і Герберт Саймон в 1950-х, Марвін Мінський в 1960 – 1970-х роках, і багато інших в наступні роки передбачали вирішення проблеми розробки штучного інтелекту протягом 10 – 20 років, починаючи з моменту заяви. Штучний інтелект як наука почав розвиватися практично одразу (через два роки) після того, як General Electric установив перший комп’ютер для використання у бізнесі. 1956 року в коледжі м. Дартмут (Dartmouth) була проведена конференція, тему якої “аrtificial intelligence” запропонував Джон Маккарті (John McCarthy). Протягом розвитку штучного інтелекту отримано низку додатків, котрі застосовуються в різних галузях науки і техніки. В даний момент застосування штучного інтелекту в основному проходить у формі основаних на знаннях систем (knowledgebased systems), в яких використовуються людські знання для розв’язання проблем. Найпопулярнішим типом таких систем є експертні системи. Примітно, що Інститут проблем штучного інтелекту Національної Академії Наук України – науково-дослідний заклад у Донецьку – був створений ще в 1991 р. До 2011 р. він мав назву “Інститут проблем штучного інтелекту НАН і МОН України” та був підпорядкований Державному університету інформатики і штучного інтелекту. Припинив існування згідно з рішенням Кабінету міністрів України від 6 квітня 2011 р. № 284-р та наказу Міністра освіти і науки від 25 травня 2011 року № 482. Правонаступником всього майна, прав і обов’язків Державного університету інформатики і штучного інтелекту став Донецький національний технічний університет. Згодом цей університет стає структурною одиницею ДонНТУ і отримує назву “Інститут інформатики і штучного інтелекту ДонНТУ”. Вивчення предмету доводить, що узгодженого означення терміну “штучний інтелект” у фаховому середовищі не існує. Проблема тут полягає в тому, що під цим терміном об’єднується надто широке різноманіття підходів, методів та поглядів. Проте, заслуговує на увагу тлумачення штучного інтелекту як “вивчення та розробка інтелектуальних агентів”, де під інтелектуальними агентами розуміються такі “Інформація і право” № 2(14)/2015 123 автономні системи, що приймають рішення та діють з метою досягнення максимального ефекту. Іншими словами, галузь штучного інтелекту займається створенням систем (механізмів, коли мова йде про роботів, або комп’ютерних програм), які можуть вирішувати складні задачі без допомоги людини. Провідні IT-компанії мають низку інноваційних розробок – передвісників штучного інтелекту, який, на думку фахівців, може бути створений вже найближчим часом. Google, Facebook, Microsoft, IBM – практично кожна відома компанія IT-ринку тією або іншою мірою заявила про себе в контексті дослідження штучного інтелекту. Навіть, на перший погляд, далекі від цієї теми компанії General Motors і Boeing об’єдналися і інвестують у власну лабораторію з розробки штучного інтелекту. За оцінками експертів, сукупні витрати провідних гравців індустрії в цій області оцінюються в сотні мільйонів доларів щорік. Між тим, науковці, підприємці та інвестори, які беруть участь у дослідженнях штучного інтелекту, попереджають про його небезпеку, аргументуючи тим, що інтелектуальні здібності машин можуть перевершити інтелектуальні здібності людей, що їх створили. Йдеться про побоювання щодо ефекту, який можуть чинити ці машини на робочу зайнятість і навіть виживання людства в довгостроковому періоді. Насамперед, слід зазначити, що про небезпеку штучного інтелекту часто висловлювався відомий британський фізик-теоретик, космолог С. Хокінг, який застерігав світ від реалізації пророцтва культового фільму 1984 р. “Термінатор” режисера Джеймса Кемерона. Вчений неодноразово зазначав, що побоюється систем, розвиток яких не визначений жорсткими рамками. До того ж Е. Маск, співзасновник ракетобудівної компанії SpaceX і компанії з виробництва електромобілів Tesla, який входить в раду наукових керівників Інституту майбутнього життя, поряд зі Стівеном Хокінгом і актором Морганом Фріменом, заявив, що, на його думку, неконтрольований штучний інтелект “потенційно більш небезпечний, ніж ядерна зброя”. Наведемо деякі з висловлювань Е. Маска, які яскраво виражають його думки щодо небезпеки створення штучного інтелекту, які говорять про те, що електронний розум може стати непідвласним людині: “З штучним інтелектом ми викликаємо демона. Ви, напевно, знаєте всі ці історії, в яких герой з пентаграмою і святою водою упевнений, що може контролювати нечисту силу. Але на насправді це не працює… Я думаю, нам варто бути украй обережними з штучним інтелектом. Можливо, це одна з найсерйозніших загроз для існування людства. Не буде зайвим введення певних регулюючих норм на національному і міжнародному рівнях, які не дозволять наробити дурощів”. Раніше Е. Маск заявляв, що люди просто не розуміють, наскільки швидко прогресує штучний інтелект і яку загрозу він може зберігати в собі. Примітно, що заяви Е. Маска були зроблені під час укладення партнерського договору між Google Deepmind і Оксфордським університетом, які мають намір спільно розвивати ІT-технології. Йдеться про навчальні засоби для осмислення природної мови і інструменти візуального розпізнавання. Подібні розробки дозволять машинам розуміти людську мову і сприймати зображення реального світу так, як це роблять люди. Втім, вчені відзначають і позитивні результати дослідження штучного інтелекту, які включають в себе розпізнавання мови і зображення та самохідні транспортні засоби. Вже сьогодні в багатьох країнах люди користуються технологічними новаціями, які свідчать про наближення ери штучного інтелекту: безпілотні автомобілі; голосові сервіси від виробників сучасної електроніки; технологічне наповнення так званого розумного будинку тощо. Розробки, які проводяться в плані штучного інтелекту, можна охарактеризувати як мирні. Одним з “піонерів” цих досліджень стала американська компанія Apple, створивши прообраз штучного інтелекту – це найвідоміший гаджет сучасності, тобто смартфон. Голосовий асистент Siri з’явився в iРhone 4S восени 2011 року, що стало революцією в IT-індустрії. Через деякий час і Google показав свій “розумний” сервіс Google Now. На відміну від Siri, дітище Google прагне бути корисним не лише, коли цього хоче користувач, але і коли користувач про нього навіть не згадує. А саме – Google Now стежить за переміщеннями і діями користувача і вивчає його звички. Через деякий час він вже в змозі запобігати їм, про що послужливо сповіщає. Наприклад, обчисливши час, коли користувач регулярно повертається додому з роботи, Google Now заздалегідь звіряється з сервісом дорожніх пробок і до моменту виїзду прокладає оптимальний шлях навігації. Подібні системи має і Microsoft. Віртуальний асистент з жіночим голосом і ім’ям Cortana вміє все те, що і Siri, але відрізняється підвищеною товариськістю. Cortana створена для діалогів і сама може ставити користувачеві питання. Іншою сферою, де починається практичне застосування штучного інтелекту, є розумний будинок. Про цю концепцію фахівці говорять вже не одне десятиліття. Наприклад, в компанії Microsoft відвідини прототипу розумного будинку вже багато років є обов’язковою програмою прес-турів журналістів у штаб-квартиру в м. Редмонд, штат Вашингтон. Сьогодні відразу декілька великих компаній докладають серйозних зусиль для просування на ринок конкретних рішень створення систем штучного інтелекту. Серед них – Apple, яка представила єдиний протокол бездротового з’єднання для управління предметами домашнього устаткування за допомогою iPhone. Слід згадати новинки від китайської компанії Xiaomi, яка розпочала впроваджувати свої розробки з освіжувача повітря, який було оснащено модулем Bluetooth, що давало можливість сповіщати користувача про те, що в ньому пора поміняти фільтр. Згодом Xiaomi представила чотири модулі розумного будинку, включаючи розумну веб-камеру, яка може контролювати телевізор, кондиціонер, музичний центр, розумну розетку, яка дозволяє дистанційно відключити від мережі будь-який побутовий прилад, а також розумну лампочку, яка може світити різними кольорами і поступово нарощувати яскравість для комфортного пробудження вранці. Всі ці гаджети користувач може контролювати за допомогою смартфону, зокрема голосових команд. Є і перші розробки, які дозволяють за допомогою штучного інтелекту самостійно керувати функціоналом розумного будинку. Наприклад, міняти освітлення залежно від того, наскільки бадьору музику слухає користувач. Безпілотні автомобілі – ще один доказ того, що ера штучного інтелекту розпочалася. Вже сьогодні власники автомобілів бізнес-класу використовують такі функції бортового комп’ютера, як стеження за рядністю руху, адаптивний круїз-контроль, система сповіщення про зіткнення, що уміє сама скидати газ і гальмувати. Зокрема, такими рішеннями оснащують свої автомобілі Volvo, Audi, Volkswagen, Range Rover, Acura і інші компанії. Проте питання, яким стане це майбутнє, турбує все більшу кількість людей. Наприклад, учені з Франції, США і Бразилії висловлюють абсолютно протилежні точки зору з цього питання. Дослідник з університету Вайомінга Джеф Клан (Jeff Clune) вважає, що в майбутньому буде створений штучний інтелект, щонайменше такий, що не поступатиметься людству, нехай навіть на це підуть цілі століття. Такої ж думки дотримується представник Бразильського інституту робототехніки Кай Олав Елесфен (Kai Olav Ellefsen). Проте, Жан-Батист Муре (Jean-baptiste Mouret), доцент французького науково-дослідного інституту INRIA, не згоден зі своїми колегами. Він вважає, що прогрес в окремих сферах (наприклад, розпізнавання обличчя) ще не говорить, що ми близькі до створення просунутого штучного інтелекту. В той же час, подальший розвиток штучного інтелекту піде лише на користь людству, оскільки існуючі автономні системи недостатньо розумні, щоб приймати правильні рішення в складних ситуаціях. На думку співробітника DARPA Гілла Претта (Gill Pratt), що відповідає за організацію конкурсу на кращий дизайн універсального роботарятувальника, поки нам не варто опасатися повстання машин. Для виконання одного і того ж завдання найсучаснішому роботові знадобиться в середньому у 100 разів більше енергії, ніж тварині. Це, у свою чергу, не дозволяє забезпечити тривалий час автономної роботи від вбудованого акумулятора. Професор філософії Хью Прайс опублікував в серпні 2012 р. статтю “Штучний інтелект: чи зможемо ми утримати його в коробці?”, в якій закликав серйозно розглянути можливі загрози. Так, він вважає, що першим правильним кроком має бути припинення ставлення до штучного інтелекту як до предмету наукової фантастики і почати думати про нього як про частину реальності, з якою ми або наші нащадки можуть рано чи пізно стикнутися. Філософ вважає, що як тільки ми поставимо таку проблему, то буде необхідно ініціювати серйозні дослідження щодо того, як зробити розробку інтелектуальних машин найбільш безпечною з точки зору майбутнього людства. Основною причиною небезпеки є принципова відмінність передбачуваного штучного інтелекту від людського. Всі цінності – такі, як “любов, щастя і навіть виживання”, важливі для нас, тому що у нас є певна еволюційна історія – немає жодної причини вважати, що машини розділятимуть їх з нами. За словами Х. Прайса, машини, можливо, будуть просто байдужі до нас, що спричинить катастрофічні наслідки.Один з найбільш відомих на сьогоднішній момент футурологів Рей Курцвейл передбачає, що до 2029 року комп’ютер зможе пройти тест Т’юринга, що, на його думку, доводитиме у нього наявність розуму. В 2009 р. вчений заснував Університет Сингулярності з метою вивчення наслідків “технологічної сингулярності” – моменту, коли швидкість розвитку технологій досягне немислимих значень. Широкого резонансу в світовій пресі отримав поступок Е. Маска, який виписав 10 млн. $ як пожертвування дослідницькій організації Future of Life Institute, яка об’єднує безліч провідних дослідників в області штучного інтелекту і своїм основним пріоритетом називає безпеку розробок в цій області. Тим самим, на думку багатьох вчених, винахідник, можливо, запобіг апокаліптичному сценарію, який залишиться прерогативою класичної фантастики 1980-х рр. Слід зазначити, що Е. Маск є не першою публічною людиною, яка виказує занепокоєння похмурими перспективами розробок штучного інтелекту, проте він є одним з тих, хто активно діє в цьому плані. На думку винахідника, перешкодити тому, щоб люди своїми руками створили дещо на зразок кемеронівського Skynet, який з часом повстане проти людей, можна, якщо перейнятися цим питанням заздалегідь. Як слушно вважає Е. Маск, всі розробники повинні об’єднатися і визнати, що безпека штучного інтелекту – це пріоритет в його розробці. Американський аналітик і колумніст Forbes Ерік Мак згоден з Е. Маском, який розуміє, що люди все ще негативно сприймають перспективу розумних машин, і потрібно заздалегідь змінити їх ставлення. Вивчення інтерв’ю та виступів на конференціях відомих розробників штучного інтелекту свідчить, що в них немає чіткої відповіді на питання, як уникнути потенційних конфліктів між штучним інтелектом і людьми. Частіше вони посилаються на три закони роботехніки фантаста Айзека Азімова або вказують на те, що знаменитий Т-1000 – робот з рідкого металу з другої частини “Термінатора” – в принципі не може виникнути. Тоні Прескотт, британський нейрофізик з Університету Шеффілда, не без підстав зазначає: “Таке відчуття, що всі спочатку прагнуть змусити штучний інтелект хоча б функціонувати і лише потім думатимуть, як уникнути того, щоб машини, що порозумнішали, могли завдати шкоди людству”. Експерти підкреслюють, що сьогодні особливо гостро постає питання про довіру користувачів “розумним” машинам. Тим часом, учені розмірковують про майбутнє, в якому найважливішу роль буде грати штучний інтелект, і це, на їх думку, відбудеться зовсім скоро. Відомий винахідник, програміст і бізнесмен, один із засновників компанії Apple Стівен Возняк також вважає розвиток штучного інтелекту потенційно небезпечним для людини. Він вважає, що якщо штучний інтелект зможе перейняти властиву людям креативність мислення, він перетвориться в силу, з якою доведеться боротися. Вчений згоден із С. Хокінгом і Е. Маском, які попереджають, що майбутнє людства може виявитися вельми похмурим. За словами С. Возняка, рано або пізно мислячі пристрої, задумані для полегшення нашого життя, почнуть розуміти, що вони – краще. Хто стане тоді управляти компаніями – повільна людина або машина? Співзасновник Apple відзначає, що по відношенню до мислячих машин бачить себе нижчою істотою: “Чи станемо ми богами або, навпаки, займемо місце домашніх тварин? Або опустимося відразу на декілька рівнів нижче, перетворившись для штучного інтелекту в щось на зразок мурах? Я не знаю точно”. Раніше про загрозу розвитку штучного інтелекту заявляв засновник Microsoft Білл Гейтс. У цьому питанні він дотримується погляду Е. Маска, який пропонує обмежувати машини, не надаючи їм свободи розвитку. Якщо коротко резюмувати думки відомих вчених щодо проблеми штучного інтелекту, то, наприклад, С. Хокінг бачить майбутнє в змаганні між здоровим глуздом і технологічним прогресом. Причому вчений підкреслює, що якщо біологічна еволюція людського виду йде дуже повільно, то машини прогресують досить швидко, проте з часом вони самі зможуть удосконалити себе. С. Хокінг прогнозує перемогу штучного інтелекту над людством в найближчі сто років. На думку вченого, потенціал штучного інтелекту в теорії допоможе впоратися з хворобами, зубожінням і військовими конфліктами. З іншого боку, електронний розум може стати останньою розробкою в історії людства, якщо не будуть ретельно прораховані всі потенційні ризики і небезпеки. Навіть, на перший погляд, скептично налаштований до створення штучного інтелекту Е. Маск, не говорить про те, що розробку інтелектуальних систем потрібно повністю припинити. На його думку, має бути визначена деяка межа, переступати за яку не слід. В той же час професор Оксфордського університету Нік Бостром вважає, що зараз самий час подумати про забезпечення безпеки штучного інтелекту, “щоб, коли ми нарешті досягнемо рівня технологій, необхідного для їх створення, проблема їх доброзичливості до людини вже була вирішена”. Цей виклик прийняли розробники багатьох компаній світу. У Великій Британії, в Кембриджському університеті (University of Cambridge) планують створити Центр з вивчення глобальних ризиків Centre for the Study of Existential Risk (CSER), який буде складатися з учених – філософів і інженерів. Команда буде вивчати технології, що розвиваються та встановлювати, чи є небезпечним їх вплив на людство. Ключовим моментом вивчення буде оцінка створення штучного інтелекту та аналіз вірогідності того, що цей винахід не позбавиться від людства, просто переставши в ньому мати потребу. Українські розробники є активними провідниками ідеї принципово іншого підходу до створення штучного інтелекту. Так, засновники Digital Life Lab – В. Рубцов і В. Коршунов, які займаються проблемою створення штучного інтелекту, про що свідчать їх заяви, дійсно застосовують дещо інший підхід до проблеми, ніж решта дослідників. Так, вони вважають, що слід спочатку навчити відчувати машину, і тільки після цього – логічно мислити. Тільки так машина, не будучи людиною, може знайти якісь людські риси. А досягти цього можна лише давши машині можливість спілкуватися з людьми, щоб вона могла дізнатися їх краще. Український стартап Digital Life Lab займається проектом K.A.R.A – розробкою емпатичної моделі, що співпереживає, штучного інтелекту. K.A.R.A знаходиться на стадії попереднього тестування. За словами її розробників, вона буде здатна розпізнавати людські почуття, тобто буде “доброю” за умовчанням. Висновки. Немає підстав не брати до уваги думки світових авторитетів у галузях, які передбачають тією чи іншою мірою застосування штучного інтелекту, щодо наявності його загрози людству. Загальним є підхід, що без застосування систем штучного інтелекту неможливий розвиток технологічного прогресу, тож розробка інтелектуальних машин має продовжуватися. Разом з тим, більшість дослідників уникають однозначних прогнозів щодо розвитку подій у цій сфері, проте, саме на цьому має бути зосереджена увага вчених. Головна проблема нині полягає не в створенні ефективних систем штучного інтелекту – таких розробок у світі вже достатньо, а у відсутності нових підходів до створення системи контролю, насамперед, етичного характеру, над штучним інтелектом. Отже, безпека штучного інтелекту має бути пріоритетом в його розробці.

Блог до проекту

Blogger або WordPress

Мультимедійна презентація

Google Диск

Календар подій проекту:

Google Календар (посилання на розклад роботи у проекті)

Опитування до проекту

Google Форми (посилання на опитування)

Фотоальбом до проекту

Google Фотознімки (посилання на альбом)

Спілкування між учасниками проекту

• Чат
• Форум
• Спільнота на базі соціальних мереж
• Skype
• Telegram
• Viber
• Wiki-сторінка
• Сайт
• .....

Інформаційні ресурси

Друковані джерела

1. Козлова О.В. Переваги експертних систем над традиційними системами штучного

інтелекту // Системи озброєння і військова техніка. – 2011. – № 1(25). – С. 104-106.

1. ...
2. ...

Відеоматеріали

1. ...
2. ...
3. ...

Електронні ресурси

1. [http://www.victoria.

lviv.ua/html/ai/lecture/00.doc]

1. [1]
2. [ http://slog.kpi.ua/%D1%88

%D1%82%D1%83%D1%87%D0%BD%D0%B8%D0%B9%D1%96%D0%BD%D1%82%D0%B5% D0%BB%D0%B5%D0%BA%D1%82]

1. [2]
2. [http: //www.unian.ua/science/1031028-shtuchniy-intelekt-moje-buti-bilsh-nebezpechnim-nij-yad

erna-zbroya-vcheni.html]

1. [3]
2. [http://tsn.ua/nauka_it/vcheni-boyatisya-scho-shtuchniy-intelekt-mozhe-stati-nebez

pechnishim-za-yadernu-zbroyu-402283.html]

1. [http://svodka.

net/poslednie-svodki/svodki/201323]

1. [4]
2. [5]
3. [6]
4. [7]

Центральноукраїнський державний педагогічний університет імені Володимира Винниченка