Изкуственият интелект все още се обучава

Холивудската интерпретация за надмощието на машините дава неправилна представа доколко изкуственият интелект е отдалечен от значимата реалност.

Но изкуственият интелект има да извърви дълъг път преди хората да се тревожат за превръщането на света в такъв за машини, казва Орен Етциони, компютърен учен, който е прекарал последните няколко десетилетия в изучаване и опити да реши фундаменталните проблеми на изкуственият интелект. Етциони в момента е главен изпълнителен директор на института Алън за изкуствен интелект (AI2). Това е организация, която съоснователя на Microsoft Пол Алън създава през 2014 г. съсредоточена върху потенциалните ползи от изкуствения интелект, за да противодейства на посланията увековечени от Холивуд и на други изследователи, че изкуственият интелект би могъл да застраши човешката раса.

Публикуваме с незначителни съкращения интервю от Scientific American с Орен Етциони, в което той изразява своите опасения за възможностите на технологията.

---

Има ли разцепление сред изследователите на изуствения интелект за най-добрия начин да се развие технологията?

Някои хора малко са изпреварили себе си. Ние сме имали някакъв реален напредък в области, като разпознаване на реч, самостоятелно шофиране на коли. Всички те са съвсем реални технически постижения. Но как да ги тълкуваме? Изкуственият интелект очевидно е ценна технология, но ние имаме много други проблеми за решаване. Включително разсъждение, което означава, че една машина може да разбере, а не просто изчисли, че 2 + 2 = 4. И постигане на общи познания, че машините могат да се използват, за да се създаде контекст. Разбиране на естествения език е още един пример.

Говори се, че deep learning* е „най-доброто, което имаме“ от гледна точка на изкуствен интелект. Не е ли това сигнал срещу него?

Когато имате голямо количество данни маркирани, така че компютърът знае какво означава това и имате голям обем изчислителна мощност и се опитвате да намерите модели в тези данни, ние открихме, че deep learning е непобедим. Има и други подобни ситуации като тази, например радиологичните изображения, където образите носят обозначение дали има или няма тумор и програмата deep learning може да бъде насторена да решава дали изображение, което не е виждала преди, показва наличие на тумор.

Как би могла способността на изкуствения интелект да премине стандартизиран изпит, да бъде значителен напредък в технологията?

Ние всъщност започнахме да работим върху това, като изследователска програма в института Алън за изкуствен интелект. Миналата година обявихме награда от $ 50 000 за всеки, който може да изгради софтуер с изкуствен интелект, който може да вземе стандартен тест по наука за осми клас. Повече от 780 отбора от цял свят са работили в продължение на няколко месеца, за да направят това, но никой не е в състояние да изкара над 60 на сто, а дори и това е изпит само от въпроси с избираеми отговори за осми клас. Това ни показва реалистична и количествена оценка за това къде сме днес.

Как най-ефективните системи с изкуствен интелект са били способни да отговарят на въпроси правилно?

Често има знаци на езика. Най-успешните системи използваха внимателно подбрана информация от научни текстове и други публични ресурси, което после беше търсено, използвайки внимателно настроени техники за извличане на информация, за да се намери най-добрият кандидат за отговор за всеки въпрос с няколко избора. Например, кой е най-добрият проводник на електричество: пластмасова лъжица, дървена вилица или желязна бухалка? Програмите са много добри във формулите и може да открият, че електричеството и желязо или проводимост и желязо съвместно се появят в големи колекции от документи много по-често, отколкото, да речем  пластмаса и проводимост.

Как би могъл някой да използва комбинация от подходи – deep learning, машинно зрение и памет, например, за да се развие по-завършен изкуствен интелект?

Това е една много привлекателна идея и всъщност много от моите изследвания, когато бях професор в Университета на Вашингтон, се основават на идеята за използване на интернет като база данни за система за изкуствен интелект. Ние изградихме техника, наречена „извличане на свободна информация“ и тя индексира пет милиарда уеб страници. Машината имаше свръхестествена способност да изпива уеб страници и да получaва всичкo от изреченията. Проблемът е, че изреченията са в текст или изображения. Това, което прави тази идея за универсална база данни и изкуствено интелигентен интерфейс научна фантастика е, че ние не сме измислили как да картографираме от текст и изображения в нещо, с което машината да може да работи по един и същ начин, както хората могат.

Вие споменахте, че изкуственият интелект на човешко ниво е отдалечен най-малко 25 години в бъдещето. Какво имате предвид с интелект на човешко ниво и защо този период от време?

Истинското разбиране на естествения език, широчината и всеобхватността на човешкия интелект, способността ни както да играем Go, така както да пресечем улицата и да си направим приличен омлет – това разнообразие е отличителен белег на човешкия интелект и всичко, което сме направили днес е развитие на тясно специализирани учени, които могат да направят едно малко нещо изключително добре. За да определя този период от време, попитах участниците от Асоциацията за развитие на изкуствен интелект кога ще постигнем една компютърна система, която е толкова умнa, колкото хората са. Никой не каза, че това ще се случи в следващите 10 години, 67 процента казаха през следващите 25 години и по-нататък, а 25 процента казаха „никога“. Може ли да грешат? Да. Но на кой ще повярвате, на хората запознати с най-новите промени и подобрения или на Холивуд?

Защо толкова много уважавани учени и инженери предупреждават, че изкуственият интелект ще ни надвие?

Трудно е за мен да спекулирам за това какво мотивира някой като Стивън Хокинг или Илон Мъск да говори толкова много за изкуствен интелект. Може би предполагам, че да се говори за черните дупки става скучно след известно време, това е бавно развиваща се тема. Когато те и Бил Гейтс говорят за изкуствен интелект и как се превръща в зло или ще доведе до потенциални катастрофални последици, винаги вмъкват квалификацията: „евентуално“. Ако говорим за хиляда годишен хоризонт или неограничен период от време, възможно ли е този изкуствен интелект да доведе до гибел на човешката раса? Абсолютно е възможно, но не мисля, че тази дългосрочна дискусия трябва да ни отвлече вниманието от истинските проблеми, като изкуствения интелект и работните места, както и изкуствения интелект и оръжейните системи. И тази квалификация за „евентуално“ или „концептуално“ е това, което се губи в превода.

Като се имат предвид недостатъците на изкуственият интелект, трябва ли хората да са загрижени за нарастващия интерес на производителите на автомобили в самостоятелното управление на превозни средства?

Аз не съм голям фен на самостоятелно шофиране на коли където няма волан или спирачен педал. Знаейки това, което аз знам за компютърно зрение и изкуствен интелект, щях да се чувствам доста некомфортно с това. Но аз съм фен на комбинирана система – тази, която може да натисне спирачка за вас ако сте заспали на волана, например. Човекът шофьор и автоматизираната система в комбинация може да доведат до по-голяма безопасност, отколкото един без друг. Това не е просто. Вземайки нова технология и включвайки я в начина, по който хората живеят не е лесно. Но аз не съм сигурен, че решението е в това колата да върши цялата работа.

Google, Facebook и други технологични компании поглеждат към изкуствения интелект, за да бъдат полезни на хората и обществото. Технологията достатъчно ли е напреднала за тях, за да има смислени разговори?

Водещите технологични корпорации в света излизат заедно, за да мислят за тези неща, това е много добра идея. Мисля, че те направиха това в отговор на опасения за това дали изкуственият интелект ще превземе целият свят. Много от тези страхове са напълно преувеличени. Въпреки това, има много реални проблеми: автоматизацията, дигиталните технологии и изкуствения интелект влияят на работните места, независимо дали това е роботиката или други ситуации и това е едно много реално притеснение. Самостоятелното шофиране на коли и камиони значително ще подобри безопасността, но то също ще окаже влияние върху голям брой работници в нашата икономика, които разчитат на шофиране, за да изкарват прехраната си. Друго нещо, за което новата група може да говори е потенциалът за дискриминация.

Как ще се гарантира, че една програма с изкуствен интелект ще се държи законно и етично?

Ако сте банка и имате софтуерна програма, която обработва заеми например, не може да се скриете зад нея. Компютърната програма може да се занимава с дискриминационно поведение, дори ако тя не използва раса или пол, като изрична променлива. Тъй като програмата има достъп до много променливи и много статистически данни може да се намерят корелации между пощенски кодове и други променливи, които да представляват заместител на раса или пол като променлива. Ако това е с помощта на заместващa променлива, за да повлияе на решенията, които са наистина проблематични, ще бъде много трудно за един човек да я открие или проследи. Така че подходът, който ние предлагаме, е тази идея на защитниците на изкуствения интелект – системи, които следят и анализират поведението.

Съществуват ли пазители на изкуственият интелект днес?

Ние отправяме покана към общността да започне проучване и изграждане на тези неща. Искаме идеята за изкуствен интелект и „пазителите“ да противодействат на проникващия образ на изкуствения интелект, показан в холивудските филми като „Терминатор“, че технологията е голямо зло и монолитна сила.

* Структурирано обучение, йерархично учене или дълбоко учене е клон на обучението на машините въз основа на набор от алгоритми, които се опитват да моделират абстракции на високо равнище в данните чрез използване на дълбоко графика с няколко слоя обработка.

Scientific American