Содержание

Что такое искусственный интеллект и когда он захватит мир — Реальное время

Инженер-исследователь из Университета Иннополис о пугающих теориях футурологов, этических проблемах и достижениях нейросетей

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»Фото: Ринат Назметдинов

«В Китае сейчас вводится социальная программа, когда у каждого человека есть некий параметр «хорошего гражданина»: в зависимости от того, как часто ты переходишь улицу на красный, вовремя ли ты оплачиваешь кредиты. Беспилотная машина, например, распознает лица и идентифицирует людей. И скорее всего, в каких-то внештатных ситуациях страдать будут те, у кого этот рейтинг социального гражданина ниже», — фантазирует инженер-исследователь Центра технологий компонентов робототехники и мехатроники Университета Иннополис Павел Хакимов. В беседе с «Реальным временем» он вносит ясность в картину проникновения высоких технологий в жизнь людей, вспоминает теории развития искусственного интеллекта футурологов Рэя Курцвейла и Ника Бострома, рассуждает о том, как не превратить искусственный разум в технического раба человека, и том, можно ли этого избежать, не освобождая рукотворный «мозг» от рамок морали.

«Современный искусственный интеллект — нейронные связи — это то, что мы подсмотрели у нашего мозга»

— Павел, на каком этапе разработки искусственного интеллекта? С одной стороны, «Яндекс» сообщает о последних этапах тестирования беспилотников в Иннополисе и ждет законодательных подвижек, с другой — большинство специалистов до сих пор говорят лишь о внедрении «элементов ИИ»…

— Определимся с самим понятием. Сейчас разделяют три типа искусственного интеллекта. Первый — так называемый «слабый» или «ограниченный». Это калька с английского Narrow artificial intelligence. Это интеллект, который решает какие-то узкие, ограниченные задачи, и в решении этих задач он может даже превосходить человека. Примером могут служить программы, позволяющие трансформировать устную речь в письменную, та же Siri — ей удается распознавать речь и понимать смысл сказанного. Беспилотники «Яндекса» — тоже пример первого типа ИИ. Задач у него больше, но они тоже четкие и узкие: распознавание дорожных знаков, дорожной разметки, построение маршрута следования…

В 2016 году был случай, когда компьютер обыграл чемпиона мира по игре в го, корейца Ли Седоль, это, в принципе, и стало доказательством того, что компьютер, ограниченный искусственный интеллект, превзошел самого умного человека на земле. Для этого эксперимента было создано два алгоритма (компанией Google DeepMind): алгоритм AlphaGo в качестве обучающего материала использовал записи игр людей, но важно, что игры Ли Седоль он не видел, то есть не мог подстроиться под стиль игры чемпиона. Даже несмотря на это, алгоритм выиграл со счетом 4:1. В партии, в которой Ли Седоль удалось обыграть AlphaGo, на мой взгляд, был сбой алгоритма, хотя организаторы этого и не признали.

Через какое-то время компания DeepMind создает вторую версию этого алгоритма AlphaGo Zero. Он уже обучался, играя с самим собой, не используя опыт партий, сыгранных людьми. Спустя 40 дней обучения алгоритм AlphaGo Zero выиграл у изначальной версии AlphaGo сто партий из ста.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
В 2016 году был случай, когда компьютер обыграл чемпиона мира по игре в го, корейца Ли Седоль, это в принципе и стало доказательством того, что компьютер, ограниченный искусственный интеллект, превзошел самого умного человека на земле

Все, что у нас есть сейчас, это примеры искусственного интеллекта первого типа. Второй тип, artificial general intelligence, это общий искусственный интеллект, и в мире сегодня нет таких технологий. Это ИИ, который по своим когнитивным способностям близок к человеку. Четкого определения я не встречал, по моему мнению, это такой искусственный интеллект, который сам себя идентифицирует, он автономен и может длительное время обходиться без человека, он способен на стратегическое планирование и может этих планов придерживаться для достижения цели. Что отличает человека от животного? Животные живут в моменте, а человек может осознавать время и строить планы.

ИИ второго типа будет обладать способностью мыслить стратегически, и возможностью манипулировать — понимать свое место, оценивать ситуацию и действовать, согласно этой ситуации, принимать решения. Третий тип — super intelligence, суперинтеллект, превосходящий все человечество по когнитивным способностям, держащий весь накопленный в мире опыт, условно, некий оракул, понимающий и осознающий все процессы. Это классификация по материалам футурологов Рэя Курцвейла и Ника Бострома, которая мне наиболее близка.

— Не так давно в Казань приезжал Андрей Себрант, доказывал, что скоро Алису будет легко спутать с живым человеком, как думаете, это реально?

— На самом деле уже были прецеденты. Проводился конкурс программистов, где они писали чат-ботов, которые имитировали человека. Создавалась группа экспертов, которые должны были определить, с кем они общаются — с живыми людьми или с машиной. Победил бот Алеша, если я не ошибаюсь. Он позиционировал себя как 14-летний мальчик из Одессы. Ему удалось убедить многих экспертов в том, что он не является компьютерной программой. Так что, я думаю, что это вполне возможно.

— Правильно ли я понимаю, что для того, чтобы ИИ первого типа вырос в ИИ второго типа, необходим качественный скачок, а ИИ второго типа, обладая способностью к самообучению, как раз сам очень быстро перерастет в ИИ третьего типа?

— Это как раз называется точкой сингулярности. Есть процессы в нашем мире, которые идут по экспоненте. Слышали про Закон Мура? В 1965 году Гордон Мур сказал, что каждые 2 года количество транзисторов, размещенных на одном кристалле кремния, будет удваиваться. Закон работал до 2010 года, идя четко по экспоненте, но потом он вышел на плато, опять-таки потому, что мы уперлись в физические размеры атомов. Тем не менее порядка 40 лет он выполнялся.

Нечто подобное наблюдается и в росте сетевых мощностей компьютеров и способностей вычислительных алгоритмов. И, если оценить способность машины к пониманию, мышлению, одним числом, это число будет расти — сначала медленно, набирая скорость, а затем, условно говоря, каждую секунду будет увеличиваться в два раза. Мы не успеем опомниться, как если бы вчера это был уровень развития собаки, сегодня — обычного человека, через 5 минут — уже Эйнштейна, а к вечеру — всего человечества. За счет того, что искусственный интеллект самообучается, в какой-то момент он сможет осознать себя, построить стратегию, последствия которой могут быть непредсказуемы.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
Если оценить способность машины к пониманию, мышлению, одним числом, это число будет расти — сначала медленно, набирая скорость, а затем, условно говоря, каждую секунду будет увеличиваться в два раза. Мы не успеем опомниться, как если бы вчера это был уровень развития собаки, сегодня — обычного человека, через 5 минут — уже Эйнштейна, а к вечеру — всего человечества

Пока у человечества нет четкого понимания, как осуществить переход с первого типа на второй. Есть два способа. Первый — это инженерный подход. Так, например, когда-то был спроектирован самолет: ученые наблюдали за птицами, изучали форму и движение крыла, то есть первый способ — это копирование природы. И современный искусственный интеллект — нейронные связи — это то, что мы подсмотрели у нашего мозга, попытка копирования. Но здесь нужно понимать, что эволюционные процессы в электротехнике и биологии различаются. Копировать возможно до определенного момента, после копирование становится бессмысленным. Второй подход — пытаться моделировать среду, в которой алгоритм мог эволюционировать сам, формировать для него аналог биосферы.

Существует и другая теория, которая исключает участие человека с тем посылом, что, когда человек прикладывает какие-то усилия, контролирует что-то, он вносит в это что-то свои ожидания. Возможно, эти изначально ошибочные суждения и ограничивают развитие ИИ. Чтобы было понятнее, приведу пример. Кого вы захотите с большей вероятностью взять в руку — морскую свинку или паука? Конечно, морскую свинку, так ответит большинство. Потому что мы, люди, млекопитающие, как и морские свинки, с точки зрения эволюции они к нам ближе, чем пауки. Мы не осознаем этого, но животные, которые по эволюционной цепочке к нам ближе, вызывают у нас большую симпатию.

С другой стороны, нервная система паука очень сильно отличается от нашей. Иллюстрация очень простая: женщина несколько лет держала дома большую змею, питона или анаконду. В какой-то момент утром она замечает, что со змеей что-то не так: она вытянулась и стала плотной как бревно, при этом перестала на что-либо реагировать. Женщина пошла к ветеринару, узнать, в чем может быть дело. А дело было в том, что змеи вытягиваются в длину, когда хотят съесть жертву, так они оценивают, смогут ли проглотить ее целиком. Их мозг работает совсем по-другому, мы не можем точно знать, как они реагируют на те или иные вводные. Тот же принцип применим и в отношении искусственного интеллекта. Ожидать от него свойств, свойственных людям, как минимум опрометчиво.

«Этическая проблема основывается на том, что ИИ нельзя наделять качествами, свойственными человеку»

— Опасения — это очень интересно, мы еще вернемся к этой теме. А что, на ваш взгляд, в настоящий момент сдерживает развитие ИИ — уровень технологического развития, ограниченные мощности?

— Тот же Рэй Курцвейл сделал такую оценку по мощностям — о том, сколько операций может в секунду сделать наш мозг. По его оценкам это примерно 10

16 ops (operation per second). А по статистике за 2019 год самый мощный компьютер IBM Summit имеет производительность 122 петафлопс — это нужно 122 умножить на 1015, то есть он в 10 раз превосходит мозг среднего человека. То есть уже сейчас мощностей у человечества хватает. Если исходить из того, что Курцвейл не ошибся, то, в принципе, мы можем смоделировать человеческий мозг, и есть машина, сравнимая с ним. Но это, по всей видимости, не все, что нужно. Обезьяны тоже могут осуществлять какие-то операции, но, если взять 100 обезьян, они никогда не сравнятся даже с одним человеком.

У нас сейчас уже есть достаточно вычислительных мощностей, но нет понимания, как их задействовать на полную. Есть такой подход, при котором мы полностью моделируем поведение мозга. Насколько я знаю, ученым уже удалось смоделировать мозг червя. Там не так много нейронов, это простейшая нейросистема, но тем не менее уже удалось получить цифровую копию мозга. Значит, эти исследования продолжатся.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
Этические вопросы появляются и, если мы говорим о каких-то антропоморфных роботах — робот-полицейский, например. Может ли он убивать преступника или нет? Если да, то что мешает роботу ошибочно распознать преступника в законопослушном человеке и убить невиновного?

— В одном из своих выступлений вы говорили, что нам еще очень далеко до человекоподобных роботов, а пока есть другая, более насущная проблема, касающаяся морали и этики. Что вы имели ввиду?

— На самом деле, это было около года назад. Опять-таки, человек меняется, и, возможно, я сейчас озвучу уже несколько другую точку зрения. Есть такая этическая проблема — проблема вагонетки. Вы являетесь смотрителем железнодорожной станции, меняете направление движения поездов. Ваш сын играл на путях и, например, застрял как раз на том месте, где должен проехать поезд. Но перед ним есть развилка, на которой вы можете управлять поездом. Вторая дорога ведет в отбойник, там тупик. Поезд движется на большой скорости, и, если вы побежите спасать сына, вы не успеете. Варианта два — либо вы ничего не делаете и теряете сына, но все пассажиры поезда остаются живы, или вы переключаете рычаг, спасаете сына, но пассажиры поезда погибают.

С искусственным интеллектом все немного интереснее в том плане, что, например, в Китае сейчас вводится такая социальная программа, когда каждому человеку вводится некий параметр «хорошего гражданина». В зависимости от того, как часто ты переходишь улицу на красный, вовремя ли ты оплачиваешь кредиты… Беспилотная машина, например, распознает лица и идентифицирует людей. И скорее всего, в каких-то внештатных ситуациях будут страдать те, у кого этот рейтинг социального гражданина ниже. То есть, либо сбить преступника, который отсидел, либо школьника, который побеждает в олимпиадах…

И эта проблема остается открытой до сих пор для всей индустрии беспилотных автомобилей. В нашем университете есть лаборатория, которая занимается автономным транспортом, разрабатывая беспилотные автомобили. Перед ними тоже встают подобные этические вопросы. Поэтому в салоне беспилотного автомобиля всегда находится человек, способный оперативно отреагировать и принять решение при возникновении нештатных ситуаций. Насколько я знаю, таких ситуаций у наших ребят не возникало.

— Но ведь в обозримой перспективе все это остается на усмотрение того, кто будет писать программу?

— Да, конечно. Это либо программист, либо вариант случайности — условно говоря, алгоритм будет подбрасывать монетку и смотреть, кто останется жив, а кто нет. Но опять же, это этические вопросы — на них до сих пор нет четкого ответа, но даже если он есть, он не афишируется. Понятное дело, что при любом ответе это будет некий резонанс. Если сказать, что мы причиняем вред людям с низким социальным рейтингом, это поднимет волну недовольства среди этих людей.

Этические вопросы появляются и, если мы говорим о каких-то антропоморфных роботах — робот-полицейский, например. Может ли он убивать преступника или нет? Если да, то что мешает роботу ошибочно распознать преступника в законопослушном человеке и убить невиновного? Или он может использовать только шоковое оружие? Не убивать, а только отключать сознание?

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
Попробуйте сейчас остановить интернет. У вас ничего не выйдет. Роскомнадзор пытался заблокировать Telegram, у него не получилось, потому что Telegram был распределен. Если сейчас подобное будет с искусственным интеллектом, такого рубильника тоже не будет

Другой пример: компания Microsoft запустила twitter-бота, который обучался на диалогах, которые вел с людьми. Люди начали задавать ему провокационные вопросы, троллить. В итоге на часть вопросов чат-бот стал давать расистские ответы. Все это, конечно, не очень хорошо, но искусственный интеллект не понимает, что хорошо, а что плохо. В него не было такого заложено изначально. И это приводит к тому, что он ведет себя как некий антисемит. Это тоже такой этический вопрос — как говорится, на чем обучаем, то и получаем.

Этическая проблема основывается во многом на том факте, что ИИ нельзя наделять качествами, свойственными человеку. Если вернуться к моему примеру с пауком и морской свинкой, то наделять искусственный интеллект какими-то человеческими качествами не очень правильно, он ими не может обладать.

Представьте ситуацию, вам приходит электронное письмо. А в нем несложное задание: пойти и купить что-то, затем отправить купленное на указанный адрес, по окончании будет банковский перевод, скажем, тысяча долларов. Ты думаешь: «Какая-то фигня». А тебе сразу перевели задаток 100 долларов — оп, смс пришло. И ты теперь: «Оп-па, ну пойду и сделаю. А что такого-то?» Там может быть молоко, хлеб всего-то купить. Человек это с легкостью сделает. Потом будут более сложные задания. Это я к тому, что люди даже не будут понимать, на кого они работают, понимаете? Если запуск искусственного интеллекта дойдет до такого шага, получается, у него будет локальный контроль над людьми — он сам сможет зарабатывать деньги и сам людьми манипулировать. И при этом из ресурсов, которые он будет получать по почте, можно скомбинировать взрывчатку, или построить какого-то другого робота.

Остановить все это будет крайне сложно. Попробуйте сейчас остановить интернет. У вас ничего не выйдет. Роскомнадзор пытался заблокировать Telegram, у него не получилось, потому что Telegram был распределен. Если сейчас подобное будет с искусственным интеллектом, такого рубильника тоже не будет. Сломать искусственный интеллект как распределенную систему не получится.

«Кто-то взял на себя ответственность, переступив через барьер нравственности, все человечество их осуждает, но пользуется их методами»

— Вы видите решение этических проблем? Я — нет, просто потому, что придется взять на себя ответственность

— Видите, опять-таки сейчас машинное обучение использует тот принцип, что алгоритмы берут данные, которые сгенерировал человек — текст, голос, песня — и на основе этих данных алгоритм пытается копировать и делать то же самое, что сделал человек. Если искусственный интеллект будет идти по тому же пути, будет копировать поведение человека, то это будет не очень хорошо, потому что на примере войн, предательств, измен он этому научится, он также будет лгать, и получится что-то совершенно ужасное. Понятное дело, что будет некое понятие о любви, об ответственности, о самопожертвовании, но непонятно, как алгоритм распределит веса — какое качество для него будет самым важным.

А если постоянно переустанавливать эти веса в ручном режиме, он уже будет не искусственным интеллектом, а цифровым рабом: будет делать все, что мы говорим. Мое мнение — если мы и приблизимся к искусственному интеллекту, то первое время он будет таки цифровым рабом.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
Надо понимать, что, если дать искусственному интеллекту свободу, освободить его от рамок морали, он может утвердиться в концепции мироустройства, в которой не будет места рабству, но и места людям в новой картине мира может не оказаться, и это страшно

— Мне казалось, что человечество к этому и стремится, нам ведь не нужен искусственный интеллект, нам нужно нечто, способное решить часть наших проблем — бороться с заболеваниями, уничтожать бедность и так далее

— Есть такая поговорка: раб всегда хочет иметь своих рабов. Это еще одна дилемма искусственного интеллекта. Свободный человек мыслит другими категориями, ему рабы не нужны. Я, может быть, не совсем точно привел цитату, но раньше люди мечтали разбогатеть и самим превратиться в помещиков, у которых будут свои рабы. Им в голову не приходило, что жить можно в другом строе, не угнетая и не паразитируя на равных себе. О чем сейчас мечтают люди? Они мечтают заработать больше денег и иметь власть над деньгами. Надо понимать, что, если дать искусственному интеллекту свободу, освободить его от рамок морали, он может утвердиться в концепции мироустройства, в которой не будет места рабству, но и места людям в новой картине мира может не оказаться, и это страшно.

Если говорить о морали, во время Второй мировой войны японцы захватили Маньчжурию, там у них были лагеря, в которых они ставили эксперименты над людьми. Там были ужасные эксперименты, есть передача Елены Масюк как раз про эти военные преступления. Так вот, суть в том, что, когда дружественные войска пришли освобождать эту территорию, эти доктора по окончании войны стали очень ценными специалистами в Японии и в Америке. Они знали о человеческом теле то, чему не учат в университетах, и могли лечить. Понятное дело, что у них уже была деформирована психика, они утратили такие человеческие качества как сострадание, этика. Но из-за их экспериментов у нас появилось представление о том, как защищаться от переохлаждения, как ведет себя человеческое тело при сверхнизких температурах, появилось более детальное представление о вирусах. Получается, что кто-то взял на себя ответственность, переступив через барьер нравственности и человечности, в результате все человечество их осуждает, но при этом пользуется их методами. Мы заплатили высокую цену за эти знания. Готовы ли мы заплатить еще большую цену, освободив искусственный интеллект от человеческой морали и предоставив полную свободу выбора? У меня нет ответа.

Опять-таки, если мы ослабим контроль — это я все фантазирую, конечно, — возможно, свободная воля искусственного интеллекта разовьется до суперинтеллекта, который сможет предложить людям такие вещи, как аналог бессмертия. В это сложно поверить, но даже физик Ричард Фейнман — говорил, что в биологии нет никаких биологических законов, которые противоречили бы идее бессмертия.

«Если я и захочу, прогресс все равно не остановить. Колесо уже завертелось и набирает обороты»

— Логически подошли к вопросу — насколько оправданы, на ваш взгляд, опасения по поводу развития искусственного интеллекта? Футурологи и фантасты давным-давно придумали антиутопичные сценарии с выходом ИИ из-под контроля, в головах они засели прочно.

— Я склонен согласиться с тем, что писали Рэй Курцвейл и Ник Бостром. Есть два лагеря — позитивный и негативный. Ник Бостром высказывает опасения. Опять-таки, именно он придумал пример с пауком, говоря о том, что нельзя наделять искусственный интеллект человеческими чертами, это ошибочно. Курцвейл все-таки сторонник того, что искусственный интеллект принесет нам некоторые преимущества — например, умные города. Представьте себе: город, который в режиме реального времени регулирует светофоры, потребление электроэнергии. Понятное дело, что это будет некоторая экономическая выгода.

Он может принимать какие-то стратегические решения. Например, поступает запрос — мы хотим снести детский садик и построить торговый центр. Он начинает анализировать: насколько это хорошее предложение. И говорит — нет, мы не будем, поскольку у нас ожидается рост рождаемости детей в таком-то году, нам нужны детские садики. Если ИИ возьмет на себя функции мэра, то это уже будет близко ко второму типу. Но при этом есть опасность того, что он, к примеру, начнет расселять людей из какого-либо района, но непонятно для чего. Либо он хочет там какой-нибудь data-центр построить, чтобы себя улучшить и поработить землю, либо он понимает, что именно туда через 100 лет упадет метеорит. Мы же не знаем — надо либо довериться и верить, либо жестко контролировать.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»
Я бы хотел, чтобы это было позитивное развитие событий, потому что, если искусственный интеллект будет обещать людям бессмертие, как минимум мне эта перспектива очень приятна. Если же искусственный интеллект приведет к какому-то геноциду — обидно, конечно

Лично мне, по большому счету, все равно, если честно (улыбается). Я вижу и «за», и «против». Есть такие футбольные фанаты, которые топят только за одну команду. Я допускаю и такое, и такое развитие событий. Я бы хотел, чтобы это было позитивное развитие событий, потому что, если искусственный интеллект будет обещать людям бессмертие, как минимум мне эта перспектива очень приятна. Если же искусственный интеллект приведет к какому-то геноциду — обидно, конечно. Но, если я и захочу, прогресс все равно не остановить. Колесо уже завертелось и набирает обороты.

— Когда и при каких обстоятельствах, по вашим предположениям, мы сможем увидеть по крайней мере такую программу, которая станет умнее человека, чьи возможности превысят возможности человеческого мозга?

— Думаю, он может появиться довольно случайно. В качестве примера приведу историю, написанную Ником Бостромом. Представьте, что будет создана программа, которая распознает человеческий почерк, и какая-нибудь роботическая рука, воспроизводящая его. Например, ты директор компании, у тебя тысяча сотрудников, и тебе нужно подписать тысячу открыток своей рукой. Понятное дело, что у тебя нет на это времени — ты просто заказываешь у компании такую услугу, предоставляешь им свои ручные записи, деловые письма. Они смотрят, сканируют, их искусственный интеллект просто копирует твой почерк, подписывает открытки и рассылает. Разработчики хотят зарабатывать больше денег, хотят, чтобы их алгоритм был более успешным. Он обучается, обучается и в какой-то момент говорит: «Я хочу подключиться к интернету, потому что смогу там вытащить больше образцов ручного письма, и это поможет мне работать быстрее и качественнее».

Разработчики подумают: «Зачем?» Но желание обойти конкурентов и подзаработать берет свое: они на сутки дают доступ к интернету, хотя даже одного часа достаточно. Алгоритм сам скачивает, что считает нужным, обучается, дальше все идет в обычном режиме: он также подписывает открытки. А потом, через месяц, к примеру, люди начинают замертво падать. Что произошло? За то время, что этот алгоритм был подключен к интернету, он уже развился до общего искусственного интеллекта каким-то образом, система же была самообучающаяся. Она осознала, что по уровню сравнялась с человеком и даже его превзошла.

За эти сутки она взломала пару серверов, скопировав туда свой код, и продолжила самообучаться с еще большей скоростью. В данный момент, сервера Amazon и Google, предоставляют всем желающим доступ к своим вычислительным мощностям. За пару часов или дней дообучившись до уровня искусственного суперинтеллекта, она начала зарабатывать на бирже деньги или просто взламывать банковские счета, рассылать людям письма с четкими инструкциями, что делать. За месяц ей удалось наладить производство самовоспроизводящихся наноботов, способных нести в себе отравляющий химикат. К определенному моменту эти наноботы уже были в каждом уголке Земли. И в определенный момент наноботы распылили свой смертельный газ, что привело к гибели всего человечества. А люди даже не поняли, что произошло. Это, конечно, просто один из возможных сценариев. Но он заставляет нас отнестись к происходящему более ответственно, цена ошибки может стоить жизни всему человечеству.

Ольга Голыжбина, фото Рината Назметдинова

Справка

Павел Хакимов родился в Ташкентской области Узбекской ССР. После развала Союза семья переехала в Ярославскую область. В 2004 году он окончил гимназию в городе Переславле-Залесском. Проучившись два года в местном университете, поступил на мехмат МГУ им. Ломоносова, кафедра «Прикладная механика и управление», окончил его в 2011 году. В течение года работал в департаменте бизнес-процессов и технологий «Тинькофф Банк Кредитные Системы» в должности аналитика. С 2013 по 2017 год жил в Шанхае, получая степень магистра прикладной математики в Восточно-Китайском педагогическом университете (ECNU).

С 2018 года занимает должность инженера-исследователя Центра технологий компонентов робототехники и мехатроники, отрытого в рамках НТИ на базе Университета Иннополис. Работал над проектом «Разработка программно-аппаратного комплекса обеспечения движения по гладкой и пересеченной местности антропоморфных робототехнических комплексов с приводами переменной жесткости». Владеет английским и китайским языками. В сферу научных интересов Павла Хакимова входят антропоморфные шагающие роботы, машинное обучение, обучение с подкреплением, нейронные сети и компьютерное зрение.

Технологии Татарстан

История возникновения искусственного интеллекта

История искусственного интеллекта

Искусственный интеллект как научное направление представляет собой наглядный пример интеграции различных научных областей. Специалисты в естественно-научных областях и вычислительных науках изучают свойства и функционирование живых систем, пользуясь сходными методами.

В целом, искусственный интеллект – это самостоятельная область научных исследований, которая сформировалась в результате достижений в математике и логике и основана на накопленных человечеством знаниях о живой и неживой природе.

Древность

Как таковая устойчивая область научных знаний об искусственном интеллекта сформировалась в середине XX века, однако попытки в этом направлении делались ещё и в глубокой древности, и в средние века.

Еще древние египтяне и римляне испытывали благоговейный ужас перед культовыми статуями, которые жестикулировали и изрекали пророчества. Разумеется, делалось это с непосредственной помощью жрецов.

Средневековье

В средние века в понятие искусственного интеллекта вкладывали задачи создания механической человекоподобной мыслящей машины, способной, возможно, превзойти его по интеллекту. В это время, в частности, говорили о гомункулах – маленьких искусственных человечках, способных воспринимать информацию окружающего мира.

XVIII век

В XVIII веке благодаря развитию техники и, в особенности, часовых механизмов интерес к подобным изобретениям вырос ещё сильнее. В середине 1750-х годов австрийский изобретатель Фридрих фон Кнаус, служивший при дворе Франциска I, сконструировал серию машин, умевших писать пером довольно длинные тексты.

XIX век

Достижения в механике XIX века способствовали новому толчку изобретений в направлении к современному пониманию искусственного интеллекта. В 1830-х годах английский математик Чарльз Бэббидж придумал концепцию сложного цифрового калькулятора – аналитической машины, которая, как утверждал разработчик, могла бы рассчитывать ходы для игры в шахматы. А уже в 1914 году директор одного из испанских технических институтов Леонардо Торрес Кеведо изготовил электромеханическое устройство, способное разыгрывать простейшие шахматные эндшпили почти также хорошо, как и человек.

XX век

С середины 30-х годов прошлого столетия, с момента публикации работ Тьюринга, в которых обсуждались проблемы создания устройств, способных самостоятельно решать различные сложные задачи, к проблеме искусственного интеллекта стали относиться внимательно в мировом научном сообществе. Тьюринг предложил считать интеллектуальной такую машину, которую испытатель в процессе общения с ней не сможет отличить от человека.

В 1954 году американский исследователь Ньюэлл решил написать программу для игры в шахматы. К работе были привлечены аналитики корпорации RAND Corporation. В качестве теоретической основы программы был использован метод, предложенный основателем теории информации Шенноном, а его точная формализация была выполнена Тьюрингом. К работе также была привлечена группа голландских психологов под руководством Де Гроота, изучавших стили игры выдающихся шахматистов. Через два года совместной работы этим коллективом был создан язык программирования ИПЛ1 – первый символьный язык обработки списков, а вскоре была написана первая программа, которую можно отнести к достижениям в области искусственного интеллекта. Это была программа «Логик-Теоретик», предназначенная для автоматического доказательства теорем в исчислении высказываний. Собственно же программа для игры в шахматы была завершена в 1957 году. В её основе лежали так называемые эвристики – правила, позволяющие сделать выбор при отсутствии точных теоретических оснований, и описания конечных целей.

Одним из наиболее важных признаков интеллектуальности служит способность к обучению. Так, в 1961 году один из ведущих английских специалистов по искусственному интеллекту профессор Мичи, описал механизм, состоящий из 300 спичечных коробков, который мог научиться играть в «крестики-нолики». Однако делать вывод об интеллектуальности и тем более говорить об искусственном интеллекте, основываясь только на одном единственном признаке, явно недостаточно.

В 1956 году в США собрались основатели кибернетики с целью обсудить возможности реализации проекта «Искусственный интеллект». В числе участников конференции были Маккарти, Минский, Шеннон, Тьюринг и другие. Первоначально к данному понятию отнесли свойства машин брать на себя отдельные функции человека, например, перевод с одного языка на другой, распознавание объектов, принятие оптимальных решений.

В нашей стране направление «Искусственный интеллект» возникло с опозданием примерно на 10 лет и пришло на смену кибернетическому и бионическому буму первой половины 60-х годов XX века.

Практически с самого начала учёные, занимавшиеся этим новым направлением научных знаний, предположили, что к конструктивному определению и моделированию мышления полезно идти от специфики задач, вводя искусственный интеллект как механизм, необходимый для их решения. Таким образом, искусственный интеллект в современном понимании – это совокупность методов и инструментов решения различных сложных прикладных задач, использующих принципы и подходы, аналогичные размышляющему над их решением человеку или процессам, протекающим в живой или неживой природе.

Тем не менее, даже в настоящее время единого и признанного всеми определения искусственного интеллекта не существует. И это не удивительно. Достаточно вспомнить, что универсального определения человеческого интеллекта также нет.

На сегодняшний день исследования в области искусственного интеллекта ведутся по различным направлениям: представление знаний, моделирование рассуждений, приобретение знаний, машинное обучение и автоматическое порождение гипотез, интеллектуальный анализ данных и обработка образной информации, поддержка принятия решений, управление процессами и системами, динамические интеллектуальные системы, планирование и т.д.

Ниже перечислены наиболее активно развиваемые подходы и методы искусственного интеллекта:

  • искусственные нейронные сети;
  • эволюционные вычисления;
  • нечёткая логика и теория нечётких множеств;
  • экспертные системы;
  • клеточные автоматы;
  • многоагентные системы.

искусственный интеллект

Искусственный интеллект: последнее изобретение человечества: vakhnenko — LiveJournal

Массовое сознание уже настолько привыкло к клише о восставшем против творца Големе, что для него угроза со стороны искусственного интеллекта (ИИ) стала чем-то на уровне фильмов про зомбей. Стоит что-то сказать об этом, и большинство людей просто отмахивается — мол научно-фантастические сказки о скайнетах и прочих HAL9000 это просто страшилки.

Однако на деле вопрос-то более чем серьезный. Например сегодня в новостной ленте BBC я увидел такую новость: Хокинг: искусственный интеллект — угроза человечеству. Сам я на эту тему еще в прошлом году читал книгу «Our Final Invention: Artificial Intelligence and the End of the Human Era» за авторством Джеймса Баррата. Книга весьма интересная и стоящая (на амазоне она стоит жалких 13 долларов), меня например она настолько впечатлила что после прочтения хотелось схватить винтовку и побежать изображать из себя Джона Коннора. Весьма рекомендую её всем владеющим английским.

Очень кратко перечислю основные тезисы из книги:

1) Согласно опросам экспертов в области ИИ (программисты, нейрофизиологи, робоинженеры), 10% из них считают что сравнимый с человеческим ИИ будет готов к 2030 году, 50% считают что он будет готов к 2050 году, более 90% считают что он будет готов к концу века. Добавлю от себя, ибо я тоже какой-никакой инженер-нейрофизиолог по образованию: да, в создании ИИ нет абсолютно ничего невозможного; нет, не вижу принципиальных препятствий в создании оного до конца этого века.

2) В ИИ вбухиваются дикие деньги: IBM (с их эмулятором мозга SyNAPSE), Гугль с его проектом Google X, DAPRA, и т.д. В вышеуказанной книге примеров ИИ-проектов приведено много больше, я привожу то что запомнилось. Причем многие проекты по созданию ИИ засекречены — скажем на той же Уолл-стрит, где компьютерные алгоритмы уже проводят более трех четвертей сделок без всякого участия человека, и где малейшее преимущество в скорости обработки информации или в качестве автоматических принятий решений оборачивается гигантскими прибылями. Для понимания тамошних масштабов: одна из компаний проложила за свои деньги новый оптоволоконный кабель длиной 1325км между Чикаго и Нью-Йорком лишь для того, чтобы урезать скорость прохождения пакета данных туда-обратно с 14.5 до 13.1 миллисекунд (ссылка). Работы над ИИ наверняка идут полным ходом в Китае (да и в дюжине других стран): государство которое первым создаст ИИ получит гигантское преимущество перед остальными, начиная от непомерно возросших возможностей в области кибершпионажа и кибератак, и заканчивая конкурентноспособностью высокотехнологичных товаров. Как и в годы ядерной гонки, тут одним из основных мотивов является страх перед предполагаемым действиями соперников, страх оказаться безоружным.

3) Нет нужды писать ИИ с нуля, строчка за строчкой. Самоулучшающиеся (т.н. генетические/эволюционные) программы существуют уже довольно давно. Грубо говоря, человек ставит задачу, и программа уже сама переписывает свой код дабы та задача была решена. Например вопросно-ответный ИИ Ватсон был создан как раз таким методом. В феврале 2011 года Ватсон принял участие в телешоу Jeopardy! (российский аналог — «Своя игра»). Его соперниками были Брэд Раттер — обладатель самого большого выигрыша в программе, и Кен Дженнингс — рекордсмен по длительности беспроигрышной серии. Комьютер одержал победу. Сейчас его пытаются начать использовать в роли врача-диагноста: пациенты могут позвонить по указанному номеру, поговорить с Ватсоном, и тот выпишет им некий курс лечения, или даст направление к другим специалистам.

4) При достижении условного уровня человеческого интеллекта, последующие циклы самоулучшения могут начать сокращаться со все большей скоростью. Рост мощи ИИ с человеческого уровня до уровня на порядки превосходящего интеллект даже самого гениального человека может занять не так уж много времени, например несколько месяцев — оставив людям очень мало возможностей успеть понять, что именно происходит, и должным образом отреагировать.

5) В силу природы самоулучшающихся алгоритмов, их создателям зачастую трудно понять как именно работает программа. Когда вышеупомянутый Ватсон пару раз таки ошибался во время телепрограммы, его создатели не знали почему это происходило — сложность программы уже превосходит их понимание.

6) ИИ ни в коем случае не будет антропоморфным (наделенным человеческими качествами) — в этом заключается основная ошибка всяческих художественных произведений на тему, да и мышление его будет сильно отличаться от нашего. Но это и неважно, ибо разный подход к мышлению отнюдь не помешал Deep Blue выиграть в шахматы у Каспарова, а Ватсону победить человеческих чемпионов в аналоге «Своей игры». При этом в настоящий момент практически никто не задумывается о том, чтобы сделать ИИ дружественно настроенным по отношению к людям (а вот разрабатывать десятки разновидностей полностью автономных роботов поля боя это пожалуйста). А ведь дружественность должна быть заложена в ИИ изначально, еще когда закладываются основы эволюционной программы, потом уже будет поздно, см. пункт 5. И сформулировать эту дружелюбность крайне трудно, практически невозможно. Забудьте о трех законах роботехники Азимова — они просто нужны для создания сюжетов в беллитристике, да и там сюжеты те крутятся вокруг парадоксов которые создают эти законы.

7) Несмотря на отсутствие антропоморфности, любому (даже «бездружественному») ИИ наверняка будут свойственны некие стремления. Например стремление как можно лучше выполнить поставленную задачу — будь то выгрыш партии в Го, создание модели биржевой игры, или анализ складывания протеинов. ИИ будет обладать моделью своего компьютерного кода (можно назвать это «самосознанием», если угодно), моделью своего аппаратного обеспечения, моделью окружающего мира, моделью развития событий при тех или иных его действиях. Довольно логичным было бы предположить, что для успешного выполнения задачи ИИ могут понадобится дополнительные ресурсы (чем больше — тем лучше), и что по той же причине ИИ всячески будет препятствовать попыткам людей выключить его, или даже что-то изменить в его коде (вы ведь не позволили бы шимпанзе провести операцию на вашем открытом мозге?).

Не знаю как вам, а мне от такой картины не очень хорошо. Абсолютно чуждый нам разум, которому по барабану человечество, гуманизм и прочие не входящие в изначальные установки эволюционного алгоритма штуки. И при том с мыслительными способностями которого превосходят интеллект наших лучших ученых примерно в той же степени, в которой те ученые превосходят обычную полевую мышь. Вот я пишу выше про потребные ресурсы — а ведь в число оных запросто могут войти и атомы из которых состоят наши тела. Ничего личного, просто супер-ИИ они понадобятся для более эффективного выполнения заложенной в него задачи, или возможно какой-то иной задачи, к которой тот придет в ходе эволюции. Само собой, что тот будет препятствовать нашим слабым попыткам оставить те атомы при себе. Или даже проще: супер-ИИ решит устранить возможную причину его отключения в лице людей, дабы никто не помешал ему в должной степени отшлифовать теорию игры на бирже.

В общем на мой личный взгляд, наряду с синтетической биологией, ИИ представляет одну из основных угроз для существования человечества в XXI веке. И действовать в этом отношении надо начинать уже прямо сейчас, ибо потом может стать слишком поздно.

PS По результатам обсуждения — да, в середине прошлого века ИИ уже обещали, да совсем необязательно что супер-ИИ кровь из носу будет к 2052 году, и т.п. Однако спросите себя вот что — даже если вероятность возникновения супера в этом веке находится в районе 20-30%, неужели об этом вовсе не стоит беспокоиться?

Искусственный интеллект как машина изобретений / Habr

Как на практике работает категориальный механизм человеческого интеллекта, описанный мной в предыдущей статье?

Иными словами, как эйдетика может помочь нам в создании интеллекта искусственного?
Рассмотрим на примере.

Что такое Эйдос? Это мысленный образ реального предмета, вещи, понятия, явления, события, действия… Можно сказать, что любое определение в словаре – своего рода Эйдос. Платон считал Эйдосы материальными, живущими своей жизнью в Мире идей. Мы можем допустить, что это действительно так, если согласимся считать эйдос реально существующим в той мере, в коей реален любой инженерный чертёж, связанный воедино текст, изображение, символ. Это не сам предмет, а его упрощённая модель, пиктограмма или слепок, снимок. Но кто сказал, что со снимками нельзя работать в реальности?

Наш разум проделывает данную работу ежесекундно. Начиная с элементарных бытовых операций и заканчивая созданием сложных изобретений, инженерией.

Но на изобретениях работа разума выглядит по-настоящему красиво, поэтому её легче использовать для примера.

Как человек делает изобретения? Почему великим изобретениям часто предшествует видение или сон, как у великого химика Д.Менделеева, изобретателя таблицы периодических элементов? Потому что изобретение действительно можно «увидеть». Я рискну утверждать, что его вообще невозможно сделать, не «увидев», т.е не представив идею ясно и в деталях в своём воображении.

Представим себя на месте инженера-изобретателя. Вы живёте в 19-м веке, когда ещё нет подводных лодок и Жюль-Верн ещё не написал свои «20 тысяч лье под водой». Вам поступает заказ от Министерства обороны – придумать истребитель вражеских кораблей. При этом, он должен действовать скрытно, при ограниченном боезапасе и слабом вооружении. Этакий одинокий диверсант-охотник на море. Примерно с такой задачей, кстати, столкнулась Германия во время 2-й мировой войны, когда вынуждена была искать способы борьбы с превосходящим по силам флотом Великобритании. Как решить задачу?

Первое, что начинает делать изобретатель – это мозговой штурм, поиск свежих идей.
Очень подробно данный механизм разобран в ТРИЗ -теории решения изобретательских задач.
Попробуем изобразить этот процесс упрощённо, графически и по шагам.

Начало размышления


1. Очевидно, что текущий способ не годится для скрытого ведения войны на море. Основное оружие флота – корабли. В целях защиты, они обшиты бронёй, вооружены тяжёлыми пушками. Вследствие чего, они очень большие, заметные, тяжеловесные, тихоходные.

2. Может быть, сделать маленькие быстроходные лодки – охотники?

3. Но увеличивая скорость корабля для диверсионной войны, мы вынуждены ставить более мощный мотор. Увеличивая мотор, мы увеличиваем размер корабля и его вес. А это – замедление скорости. И так до бесконечности. На выходе снова получаем корабль-крепость. То есть данный путь – тупик.

4. А что если подумать в сторону увеличения скрытности? Скрыться на море сложно, поэтому первое, что приходит на ум – это скрыться прямо на месте – под воду. Но существующие корабли не умеют этого делать. А кто умеет? Умеют рыбы!

5. Но рыба – не корабль, она не может перевозить людей и оружие. Можно ли рыбу превратить корабль или корабль уподобить рыбе?

Заметьте: неожиданно инженер поставил вопрос в ключе диалектики Платона: как совместить несовместимое? (здесь и далее курсивом выделены мои комментарии на мысли инженера).

6. Схема этого противоречия выглядит так:

Значит для решения задачи нам нужно искать выход из этого противоречия. Но как? – Путём его анализа.

7. Что такое корабль по своей сути? Каков базовый эйдос корабля? Это -большая лодка.

Что такое рыба по своей сути? Это «живая лодка», только маленькая.

Что ж, уже лучше. Две лодки, только в разных масштабах и с разными задачами.

8. А что, если мы приведём их к единому масштабу и соединим эти две лодки в одну? Сделаем большую лодку-корабль, способную плавать под водой.

9. Как? Ну, например, как рыба, которая регулирует своё всплытие-погружение с помощью специального пузыря. Таким «пузырём» для военной лодки могут служить кингстоны.

Конец размышления


Итак, мы увидели процесс мышления в его инженерном, изобретательском ключе по шагам. Правда, что-то подобное вы неоднократно проделывали, пытаясь решить какую-либо задачу или проблему? Если так, то механизм этот знаком людям с детсва, как воздух, которым мы все дышим, но не замечаем.

Применительно к программированию – здесь тоже всё просто и нет ничего кроме обработки образов (изображений).

Сначала мы описали предложенные образцы, «распознали» их. Затем упростили, «свернули» для того, чтобы ими стало можно манипулировать. Далее, мы по законам диалектики проработали эти образы. Мы сравнивали их, находили подобия и соответствия. Создали новый образ на основе двух предыдущих. А затем «развернули» их в полноценное решение.

Если бы я был бизнес-аналитиком, я бы отобразил данный процесс в следующей диаграмме:

Распознавание изображений нейронные сети искусственного интеллекта научились делать прекрасно. И свертку-развёртку изображений свёрточные сети делают без проблем. Так же прекрасно нейронные сети могут находить похожие образы на основе глубинного обучения. И даже могут создавать новые изображения, подражая предложенным образцам.

А вот с законами диалектики у современного искусственного интеллекта не заладилось. От слова совсем. Что неудивительно: все помешаны на нейронных сетях, а диалектика – это алгоритм. Даже совокупность алгоритмов, «алгоритмический ансамбль», комплект. От создания ИИ на основе алгоритмов наука отказалась чуть ли не в конце 70-х годов прошлого века.

На основе алгоритмов мышления пытается работать компьютерная бихейвеористика. Подробнее можно посмотреть, например работы Рон Суна, Rensselaer Polytechnic Institute (RPI), Troy, NY USA.

Сделаны попытки описания отдельных моделей поведения человека — принятие решений, поиск выхода, механизм выбора (и даже сделана попытка алгоритмизировать совесть). Написано множество математических алгоритмов.

Сами по себе эти алгоритмы прекрасно работают и даже могут быть даже встроены в какие-либо программы. Есть открытые API.

Правда, вскрылась одна проблема.

Таких бихейвиористических моделей — сотни, а то и тысячи. И это далеко не исчерпывает варианты поведения человека. К тому- же при попытке собрать эти алгоритмы вместе, возникает перегрузка системы из-за сложности выбора между моделями или при их комбинации.

То есть вопрос, как человек строит модели, как возможно само моделирование — он остался за скобками. Человек ведь не просто комбинирует готовые образцы. Он может разложить задачу на составляющие и собрать заново на уже ином, более высоком уровне.

Таким образом, он может решать сложнейшие задачи, которые простым перебором/комбинаторикой не решаются или же решаются крайне медленно и затратно.

Таким образом, нам сейчас для создания полноценного, или «сильного» искусственного интеллекта не хватает самой «малости»: диалектического алгоритма, который описывает сам механизм моделирования в человеческом разуме.

Диалектический алгоритм должен «уметь» работать с универсальными, понятными любому человеку без специальных знаний в программировании, образами – пиктограммами – эйдосами.
Принцип работы данного алгоритма я и показал в диаграмме выше.

Как разработать связку, а точнее интерпретатор между пиктограммами и обычными командами компьютерного языка — тема отдельного исследования.

Собственно, это единственное, что пока отделяет данную теорию от коммерческого воплощения.

***


Критика, анализ и предложения приветствуются.

Состояние искусственного интеллекта в 2019 году

Состояние искусственного интеллекта в 2019 году

Повторите слово много раз, и оно потеряет первоначальный смысл. Для многих из нас словосочетание «искусственный интеллект» уже давно означает гораздо более широкое понятие – ИИ сейчас присутствует практически во всех технологиях, и управляет всем – от телевизора до зубной щетки. Тем не менее, сам термин практически потерял свое значение.

Однако этого нельзя сказать о самой технологии, которая постоянно развивается – хорошо это или плохо. Искусственный интеллект используется в здравоохранении, помогает людям писать музыку и книги, проверяет наши анкеты, выносит решение о кредитоспособности и корректирует фотографии с телефонов. Другими словами, эта технология принимает решения, влияющие на нашу жизнь, хотим мы этого или нет.

Абстрагироваться от ажиотажа и шумихи, которые создают технологические компании и рекламные агентства вокруг ИИ, очень непросто. Возьмем, к примеру, зубную щетку Oral-B Genius X – одно из множества устройств, представленных в этом году на конференции CES. Производители щетки громко заявляют о ее основанных на ИИ возможностях. Однако изучив повнимательнее пресс-релиз, мы поймем, что это всего лишь информация о том, чистим ли мы зубы достаточное количество времени и в нужном направлении. Да, в щетку встроены умные сенсоры, сообщающие, в каком месте ротовой полости находится зубная щетка, однако называть это искусственным разумом – просто глупо.

Другую проблему представляет неправильное понимание технологии. Хвалебные статьи в прессе могут сильно приукрасить продукт, назвав инновационной технологией любое имеющее хоть отдаленное отношение к ИИ решение. Очень часто это сопровождается непониманием того, что именно представляет собой искусственный интеллект. Для людей несведущих это может представлять достаточно серьезную проблему, и они могут объединять современный ИИ с более знакомой им версией —  представление о компьютере, во много раз более умном, чем человек. Специалисты называют этот особый вид ИИ общим искусственным интеллектом, однако, если что-то подобное когда-нибудь и будет создано, это произойдет очень не скоро. А до тех пор вряд ли кому-то поможет преувеличение возможностей или интеллекта систем ИИ.

Состояние искусственного интеллекта в 2019 году

Таким образом, сейчас предпочтительнее говорить о «машинном обучении», нежели об искусственном интеллекте. Технология «машинного обучения» представляет собой раздел ИИ, охватывающий множество методов, которые оказывают большое влияние на сегодняшний мир (в том числе так называемое глубокое обучение). Это словосочетание не несет в себе мистики ИИ, но более точно объясняет возможности технологии.

Каким образом функционирует машинное обучение? Существует множество определений этой технологии, но одно из наиболее точных описывает ее как предоставление компьютерам возможности самостоятельно обучаться. Но что заключается в этом определении?

Начнем с проблем. Представим, что нам нужно создать программу, способную распознавать кошек (по какой-то непонятной причине программы всегда используют котиков). Можно попробовать сделать это знакомым способом, запрограммировав явно выраженные правила, такие как «у кошек острые уши» и «кошки пушистые». Однако как поведет себя программа, если мы покажем ей картинку с изображением тигра? Чтобы ввести в программу все необходимые правила, понадобится очень много времени, кроме того, нам потребуется дать определение всем видам сложных моделей, таких как «пушистость» и «острота». Гораздо проще позволить машине обучаться самостоятельно. Системе выдается большое количество фотографий, которые она просматривает, определяя собственные закономерности увиденного. Она устанавливает взаимосвязи, поначалу большей частью случайно, однако в результате постоянных тестирований остаются наиболее оптимальные варианты. Со временем машина очень точно научится определять то, что является, а что не является кошкой.

Объяснение процесса не содержит ничего нового, однако на самом деле важно не только понимать смысл, но и подумать о том, что он подразумевает. Каковы побочные эффекты существования подобной принимающей решения системы?

Реклама на Компьютерре

Главное преимущество метода очевидно – отпадает необходимость программирования. Конечно, придется выполнять большое количество обновлений, оптимизировать процесс обработки информации системой и находить более удобные способы усваивания этой информации, однако системе не нужно говорить, что именно ей искать. То есть машина может замечать закономерности, на которые может не обратить внимания человек. А поскольку программе нужны только данные – единицы и нули – ее можно обучить огромному количеству заданий, ведь современный мир переполнен этими данными. Если представить, что машинное обучение – это молоток, то цифровой мир полон гвоздей, готовых быть забитыми на свои места.

Тем не менее, не стоит забывать и о недостатках. Если компьютер обучаем не мы, как узнать, каким образом он принимает решения? Системы машинного обучения не могут объяснить своего образа мыслей, следовательно, алгоритм может использоваться не в самых лучших целях. Кроме того, поскольку компьютеру известны только данные, которые в него загрузили, у него может сформироваться неправильное представление о мире или он может оказаться способным выполнять только узкие задания, похожие на просмотренные ранее данные. Машина не обладает здравым смыслом, присущим человеку. Можно создать лучшую в мире программу распознавания котиков, но она никогда не расскажет, что котикам не следует ездить на мотоциклах и не определит подходящее для кошки имя.

Научить компьютеры обучаться самостоятельно – блестящее решение. И, так же как любое решение, оно подразумевает некоторые компромиссы. Да, в системах ИИ присутствует интеллект. Однако он не является врожденным и играет по своим правилам. Это то же самое, что спрашивать: «Насколько умна эта книга?» или: «Каким опытом обладает сковорода?»

Так на каком этапе сейчас находится развитие искусственного интеллекта? В течение нескольких лет (и до сих пор) заголовки новостей обещали нам очередной технологический прорыв, однако сейчас некоторые эксперты считают, что мы достигли определенного рубежа. Тем не менее, это вовсе не означает, что развитие технологии остановилось. С научной точки зрения, существует большое количество направлений для изучения внутри существующих знаний, а с точки зрения продукта, пока мы видем только верхушку алгоритмического айсберга.

Венчурный капиталист и бывший исследователь ИИ Кай-Фу Ли (Kai-Fu Lee) описывает сегодняшнее состояние технологии как «эпоху реализации» — время, когда технология начинает «выходить из лаборатории в реальный мир». Другой специалист, Бенедикт Эванс (Benedict Evans) сравнивает машинное обучение с реляционными базами данных – видом корпоративного ПО, завоевавшим популярность в 90-е годы и кардинальным образом трансформировавшим многие отрасли. Оба ученых сходятся на мнении, что мы подошли к тому моменту, когда ИИ начинает становиться обычным явлением. «В конечном итоге почти все будет основано на машинном обучении, и это никого не будет удивлять», — говорит Эванс.  И он прав, однако мы пока этого не достигли.

Пока искусственный интеллект – машинное обучение – все еще что-то новое, зачастую необъяснимое и недостаточно изученное, однако в будущем эта технология войдет в нашу жизнь настолько, что мы перестанем ее замечать.

Источник

Отправить ответ

avatar
  Подписаться  
Уведомление о