МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
ДОНЕЦЬКИЙ НАЦІОНАЛЬНИЙ ТЕХНІЧНИЙ УНІВЕРСИТЕТ
Кафедра філософії
КафедраАвтоматизованих систем управління
РЕФЕРАТ
з філософії натему:
«Проблемаштучного інтелекту: технічні і соціально-етичні аспекти»
Виконав:
здобувач кафедри Автоматизованих систем управління
Каїра В.В.
Перевірив:
реферат__________________
_________________________
Донецьк — 2006
СОДЕРЖАНИЕ
TOC o «1-3» h z u Введение. PAGEREF _Toc136189076 h 3
1.Технический аспект создания искусственного интеллекта. PAGEREF _Toc136189077 h 4
2.Социально-этические аспекты создания искусственного интеллекта. PAGEREF _Toc136189078 h 13
Заключение. PAGEREF _Toc136189079 h 23
Литература. PAGEREF _Toc136189080 h 24
Введение
Актуальность темы.Возможен ли искусственный интеллект? Уже сама такая постановка вопроса вызываетоживленную дискуссию [1,с.1]. Вторая половина семидесятых и начало восьмидесятыхгодов ознаменовались спадом уверенности в скорейшем создании искусственногоинтеллекта, даже в возможности создания вообще. В настоящий момент в изданной вРоссии в 1999 г. книге «Наступлениемашин» Кевина Уорвика [2, с.5], профессора департамента кибернетикиуниверситета Рединга (Англия), автор пытается убедить, что рано или позднопоявятся машины, интеллект которых превзойдет человеческий. Он указывает, чтороботы с интеллектом кошки появятся через пять лет, а с интеллектом близким кчеловеческому, — через 10-15 лет. Каждые десять лет возникает новая технология,которая радикально меняет все в этом мире. Директор компании мозгового центраInstitute for the Future Пол Саффо отмечает, что в развитии сенсорных устройствпроизойдет слияние разделенных в настоящее время технологических мировцифрового и аналогового, тогда компьютеры научатся воспринимать мир, данный имв ощущении, и совершится собственно революция: вещи будут делать вещи. Задачеймоих исследований является методы компьютерного зрения (применительно к анализуизображений клеток), результаты которых, возможно, станут одной из составныхчастей восприятия роботов будущего.
Целью данного реферата является проанализироватьтекущее состояние проблемы создания искусственного интеллекта (вдальнейшем ИИ) и социально-этический аспект появления искусственного разума.
Задача первая. Наоснове анализа литературы по ИИ с технической точки зрения будут сделаны выводыо возможности его создания, используя гипотетико-дедуктивныйметод, т.е. по существующим данным о возможностях современной техники будутвыделены возможные следствия и развитие систем ИИ. В рамках решения даннойзадачи будет затронут вопрос об историческом развитии систем ИИ.
Задача вторая. Длярешения задачи рассмотрения социально-этического аспекта появления ИИприменяется метод формализации, т.е.выделяются человеческое общество и ИИ, и рассматриваются отношения между ними.1. Технический аспект создания искусственного интеллекта
Для рассмотрения данной проблемы необходимо определить, чтотакое ИИ с технической точки зрения. Искусственный интеллект (от лат.Intellectus — познание, понимание, рассудок) – это раздел информатики,изучающий методы, способы и приемы моделирования и воспроизведения с помощьюЭВМ разумной деятельности человека, связанной с решением задач.
Рассмотрим исторический путь развития «технической» мысли посозданию ИИ, попытаемся сделать обзор существующих подходов и технологий.
Структура интеллекта начала изучаться в имитационных теорияхмоделирования. В бывшем СССР этими исследованиями занимался НиколайАмосов в институте кибернетики АН УССР (Киев) начиная с 1962 года. Теорияэвристического моделирования была огромным шагом вперёд в исследованииестественного интеллекта человека, а также в направлении созданияискусственного интеллекта. Однако преодолев “теоретический антропоцентризм” идоказав возможность и необходимость существования в рамках развитого ИИ сложнойдушевной и духовной жизни, мыслей, чувств, потребностей и убеждений, эта теорияне смогла преодолеть “технологический антропоцентризм” — она рассматривает двапротивоположных подхода к моделированию интеллекта, названных сетевым и алгоритмическим.Сетевой интеллект рассматривается как трёхмерная структура, состоящая изэлементов со множеством пространственных пересекающихся связей (такую структуруимеют нейронные ансамбли), алгоритмический интеллект построен налинейных, последовательных структурах (технологически современные ЭВМ работаютс последовательностями информационных сигналов) [3, c.38-39].
В настоящее время когда речь идет об идее искусственногоинтеллекта в среде людей, занимающихся этим вопросом или близкими к ним, онапрежде всего ассоциируется с нейронными сетями (НС) и семантическимиалгоритмами (СА).
Идея эксформации была выдвинута Станиславом Лемом [3, c.40]. Эксформацияпредставляет собой способность информационной системы, например, компьютернойпрограммы, к самопрограммированию, саморазвитию и при этом значительномуинформационному росту. Одним из этапов является реализация “компьютерныххромосом” и “компьютерного генного аппарата”, то есть информационных модулей поструктуре подобных компьютерным вирусам, но отличающихся от них полезной, а неразрушительной функцией и к тому же способных к эволюции, мутациям. Современныевирусы самостоятельно мутировать не могут и позитивных организационно-системныхизменений не производят. Всё на что они способны, так это только “хулиганство”.Компьютерные гены должны стать ключом к механизму автономногоэксформационного генезиса. Генезис предопределяет свойства и структуру растущейсовокупности файлов из компактного первоначального ядра. Эта растущаяструктура должна функционировать как единая система с заранее предполагаемыми параметрами.
К сожалению, российских работ по данным разделам ИИнезначительное количество. ИИ в своем реальном понимании был чужд советской идеологии,так как подрывал ее основу. А сегодня на постсоветском пространстве государстване располагают финансами для поддержки этой отрасли. Из советских работ можновыделить теоретическую работу Н.М. Соломатина, в которой автор вводит понятиеинформационной семантической системы (ИСС) [2, c.5].
Такая система определяется как система, функционированиекоторой направлено на достижение цели. Специфической их особенностью являетсясемантическая переработка семантической информации. Указывая нанеоднозначность, незрелость дефиниции, понятия семантической информации, Н.М.Соломатин дает такое определение семантической информации: выраженное знакамисведения о выделенной заданием стороне (сторонах) объекта. Причем в данномопределении понятие сведения принимаются первичными и не определяются.
В последующем автор излагает теорию ИСС, в которойопределяет класс семантических операций, класс семантических объектов, ихфункции и структуру. Также рассматривает информирование как семантическийдиалог, его принципы; системы с целью, их классификацию, поднимает вопросстабильности ИСС.
Развитие нейронных сетей (набор связанных между собойнейронов выполняющих конкретную вычислительную функцию), как раздела ИИ,по-видимому, находится в кризисе [2, c.6]. Используемый здесь основной подход, базирующийся наанатомо-физиологических данных работы головного мозга, неплох для построенияроботов, но не как для моделирования мышления. Тем более выяснилось наличиеболее сложного механизма обучения и фиксации информации в головном мозге, чемсчиталось ранее, на заре развития кибернетики, а это значительно затрудняет моделированиенейросетей.
В биологии имеется три пути выяснения сущности элементарныхмеханизмов памяти:
1. Устанавливают, происходят ли в мозгу или определенныхареалах мозга животных, кондиционированных на новое поведение, какие-либо биохимическиеизменения.
2. Определяют, нарушается ли синтез нуклеиновой кислоты и(или) белка во время или после кондиционирования, и проверяют, ухудшается ливследствие этого процесс обучения или запоминания.
3. Путем перенесения нервной или мозговой субстанции откондиционированных животных к необученным животным проверяют, не происходит лив результате этого ускорение кондиционирования необученных животных.
На основании этих подходов было показана непосредственнаяроль ДНК и РНК в модуляции состоянии структуры нейролеммы (органическаямембрана нервной клетки). Ее изменение влияет на характер интеграции в нейпоступающих с синапсов электрических сигналов (входных), а значит и напараметры сигнала на выходе нейрона. Существует также циркуляция молекул памяти- РНК внутри нейросетей, законы распределения которой еще не установлены.
Не без оснований следует считать регулирующее влияние насостояние электрической активности нейролеммы со стороны астроглии, какструктуры, направлено модулирующей электрический ток в нейролемме.
На входе нейрона имеется в среднем от 5 000 до 10 000 тысячсигналов (синапсов). Это приводит к сложной зависимости в интеграции сигналов игенерации выходного сигнала. Для функции такого одного нейрона пока невозможнопостроить адекватного математического описания. А таких нейронов в головноммозге человека доходит до 100 миллиардов.
Исходя из этого, уже сложно использовать идеи построениянейросетей просто на основе имеющейся аналогии сети нервных клеток. Тем неменее, существуют самообучающиеся нейросети, находящие практическое применение.В частности, исследователи из Крэнфилдского университета (Великобритания)разработали устройство, способное по запаху определять наличие возбудителейразличных инфекционных заболеваний [2, с.7].
Аппарат названный Diag-Nose, представляет собой аналогчеловеческой обонятельной сенсорной системы: главной его частью является блокэлектронных сенсоров. Последние объединены в несколько групп, каждая из которыхспособна распознавать наличие в обследуемом объекте определенного химическоговещества. Сигналы генерируемые сенсорами, поступают в специально обученную искусственнуюнейросеть, которая и делает вывод о наличии того или иного заболевания.
Интересно также сообщение о разработке имплантов позволяющихдистанционно управлять техникой.
Кевин Уорвик вживил себе в руку чип, позволяющий включать ивыключать свой компьютер, не приближаясь к нему. Данный чип в виде стекляннойкапсулы, о начинке которой можно только догадываться, на удаленный запроссистемы может выдать уникальный 64-битный ответ, является частью обширнойпрограммы Intelligent Home System (понимающая домашняя система), позволяющаячеловеку из одной точки контролировать все происходящее внутри дома. Система базируетсяна технологии LON (Local Operating Network), в которой используются нейронныесети.
Технологии самообучающихся нейронных сетей отчасти находятсвое прикладное применение в управлении производством. Йогеш Гупта (YogeshGupta), один из руководителей компании Computer Associates, рассказал осоздании его фирмой нейронных агентов — Neugents, которые будут включены всостав новой версии системы управления предприятием Unicenter TNG.
Способные, как и многие другие нейронные системы, ксамообучению, Neugents будут следить за состоянием системы, отслеживаяотдельные процессы. Обнаружив необычное течение процесса, Neugents не толькосообщит об этом, но и предскажет, в какой момент нестабильная работа процессаприведет к сбою системы. Агенты будут также оценивать вероятность возникновениясбоя. В составе Unicenter TNG будут следить за работой этой сложной программнойсистемы. Планируется использовать подобные нейропрограммы для распознавания поддельныхдокументов и предсказания потребления энергии для электрических компаний.
Возникновение новых подходов при разработке семантическихалгоритмов не мыслимо рассматривать в отрыве от психологических исследований,поскольку первые на них основываются.
Фундаментальные данные по исследованию памяти собраны вкниге «Активная память: Экспериментальные исследования и теории человеческойпамяти». Автору работы И. Хофман (психолог, профессор Берлинского университета)с сотрудниками удалось близко подойти к пониманию семантических механизмовпамяти и созданию в ней новой информации [2, c.7].
Немаловажный аспект исследований связан с созданием такназываемого биомашинного интерфейса, позволяющего связать нервную систему напрямую(через проводники) с компьютером. Специалистам медикам Рою Бэйки (Roy Bakay) иФилипу Кеннеди (Philip Kennedy) из университета Эмори (США) удалось создатьэлектрод, который непосредственно воспринимает импульсы головного мозгачеловека [2, c.7].
Система пока всего лишь облегчает парализованным больнымконтакт с внешним миром, но в перспективе может привести к появлению новыхтехнологий.
Электрод представляет собой два небольших полых конуса изпористого стекла. На поверхность электрода нанесены выделенные из клетокнервной периферической системы вещества (Прим. мое в гистологии они называютсятканевыми факторами роста), которые вызывают рост окружающих электрод клетоккоры головного мозга и их проникновение внутрь конусов. Этот процесс занимает нескольконедель. Электрический сигнал воспринимается находящимися внутри конусовметаллическими проводниками, усиливается и передается на компьютер. Электродвживляется в участок коры головного мозга, управляющий движениями тела, ибольной учится управлять курсором, пытаясь отдавать привычные команды своемунеподвижному теперь телу. Больной также может передавать сообщения о том, чтоон голоден.
Исследования в области биомашинного интерфейса пополнилисьеще одним научным фактом. Благодаря ученым из Калифорнийского университета(Беркли, США) Ян Дан (Yang Dang), Гаррет Стэнли (Garrett Stanley) и Фэй Ли (FeiLi) удалось декодировать зрительные сигналы, поступающие в кошачий мозг, и дажесделать на их основе видеозапись [2, c.7].
В мозг кота в район таламуса, были вживлены 117 электродов.На основе электрической активности участков таламуса с электродами, ученыереконструировали изображение, используя как указано в статье (Journal ofNeuroscience) некую линейную декодирующую технику. Им удалось получитьизображения вполне узнаваемых объектов, таких, например, как человеческие лица.
В одной из своих частных реализациях ИИ был эмиссирован вконцепции виртуального мира (КВМ). Виртуальный мир (ВМ) реализуется как программнаясреда трехмерной графики с интеллектуальным состоянием встроенных в негообъектов. Используя специальное устройство – шлем виртуальной реальности (ШВР),состоящее из двух миниатюрных мониторов находящихся напротив глаз пользователя,микрофона и стереодинамиков, пользователь как бы оказывается в ВМ. Перемещениев среде реализуется при помощи джойстика или виртуальных перчаток, имеющихдатчики растяжения. Основной стратегией в развитии программных средств ВМ являетсянаращивание параметров интерактивности.
В настоящее время концепция виртуального мира получила своеочередное воплощение. Американская компания DigiScents (www.digiscents.com)анонсировала технологию, которая должна существенно расширить значение терминамультимедиа, добавив к зрительным и слуховым ощущениям еще и обонятельные.Специальный аппаратно-программный комплекс, разработка которого в настоящеевремя подходит к концу, получил название iSmell.
Аппаратная часть представляет собой некий компактныйэлектрохимический синтезатор, подключающийся к последовательному или USB-портукомпьютера. Имея картридж с расходными материалами, он генерирует несколькосотен разнообразных запахов в соответствии с указаниями управляющей программы.
Не отстают и технологии распознавания речи. IBM выпустилановую версию ViaVoice программы распознавания речи для платформы Windows.Развитые возможности ViaVoice позволяют говорить слитно, без пауз, используяестественные синтаксические конструкции языка. В отличие от предыдущей версии,переключение между режимами диктовки, редактирования текста и управлением приложениемне требуется.
Помимо встроенного словаря, содержащего 64 тысячи наиболеераспространенных слов, предусмотрена возможность подключения дополнительныхсловарей и создание пользовательского модуля. Для ускорения работы ViaVoiceсодержит набор часто встречающихся фраз. Не забыты и дети, высокие голосакоторых часто не распознаются программами речевого ввода, — разработка IBMподдерживает дополнительный диапазон 11-22 кГц.
В списке новых технологий не на последнем месте стоиттехнология распознавания изображения человеческого лица, для верификацииличности. В будущем, вероятно, компьютер должен понимать и эмоции пользователя,для более гибкого с ним взаимодействия это одна из сторон интеллектуализацииинтерфейса программ. Сотрудники Питсбурского университета уже стоят на порогекоммерческой реализации такой технологии [2, c.9].
Таким образом, в современном видении ИИ может быть создан в слияниичеловеческого начала и машины. Общность мышления со способностью отраженияслужит объективной основой моделирования процессов мышления. Мышление связано ссозданием, передачей и преобразованием информации, а эти процессы могутпроисходить не только в мозгу, а и в других системах, например ЭВМ. Кибернетика,устанавливая родство между отражением, ощущением и даже мышлением, делаетопределенный шаг вперед в решении поставленной проблемы. Несмотря накачественное различие машины и мозга в их функциях есть общие закономерности (вобласти связи, управления и контроля), которые изучает кибернетика.
Конкретно-научное обоснование материалистической концепциимышления, практическое доказательство того, что мышление есть функциявысокоорганизованной материальной системы — важнейшее философское завоеваниекибернетики. Работы по искусственному интеллекту во многом тесно связаны сфилософской проблемой кибернетического моделирования. Эти работы частосвязывают с построением точной копии человеческого мозга. Однако такой подходможно назвать «некибернетическим». Каковы же черты кибернетическогометода мышления, какие вопросы вносит кибернетика в человеческое познание? Всвоей «Истории западной философии» Б. Рассел ставит вопрос офакторах, позволивших европейцам создать тип культуры, в котором ведущее местозаняла наука [2, c.16].Причину этого Рассел усматривает, как он выражается, в двух великих интеллектуальныхизобретениях: изобретение дедуктивного метода древними греками (Эвклид) иизобретение экспериментального метода в эпоху возрождения (Галилей). Именно этидва интеллектуальных изобретения — дедуктивный метод (а тем самым математика) иэксперимент позволили создать классическую науку. К этим двум основныминтеллектуальным орудиям современное развитие познания добавляет третье — математическую модель и математическое моделирование. Соединение дедуктивныхпостроений математики с данными, добытыми экспериментальным методом, создаетестествознание, в центре которого стоит понятие научного закона. Совокупностьзаконов это основное содержание естествознания; их установление его основнаязадача.
В дальнейших разработках необходимо обращать внимание на то,что до сих пор рассматривали и описывали в виде «индивидуализированной интеллектуальнойдеятельности», является вырожденным случаем и может существовать в качествеполной и самодостаточной интеллектуальной деятельности только при условии, чтоона имитирует и воспроизводит групповые взаимоотношения и групповую деятельность[4, с.183].
Вывод. Путь, покоторому идёт современная наука и который предлагает кибернетика, состоит впостроении эскизных моделей, охватывающих все более и более широкий диапазонфункций мышления. Задачи раскрыть «в лоб» «сущностьмышления» не ставится, а ставится задача построения эскизных моделей, позволяющихописать отдельные его стороны, воспроизведены отдельные его функции и, двигаясьв этом направлении, строить системы, все более приближающиеся кчеловеческому мозгу. Отсутствия жесткой связи способа функционирования (поведения)со строго определенным субстратом означает, что если две системы обнаруживают одинаковоеповедение в достаточно широкой области, то они должны рассматриваться каксистемы сходные, аналогичные по этому способу поведения.
2. Социально-этические аспекты созданияискусственного интеллекта
Рассмотрим некоторые социально-этические проблемы, которыемогут возникнуть при и после создания ИИ. Следует отметить, что в данномреферате изложен далеко не полный перечень таких проблем.
Проблема 1.Очевидно, что пустая компьютерная познавательная нервная сеть можетиспользоваться как полигон для экспериментов с ИИ. Нагружая одну и ту же сетьразными знаниями, можно изучить законы познавательной деятельности человека,точнее, обнаружить связь между обучением, творчеством и структурой нервнойсети. Но одно дело получить неактивированную копию познавательной нервной сетичеловека, а другое, предоставить этой сети возможность размышлять, чувствоватьи, в конечном счете, прийти к осознанию своего положения. С другой стороны, безэкспериментов с ИИ, нет никакой возможности раскрыть его тайны.
Научные эксперименты с таким ИИ будут подобны самымизощренным пыткам. Сознание человека, оказалось, с одной стороны, практическибессмертным, так как ИИ, в качестве компьютерной познавательной нервной сети,может многократно копироваться и хранится в существенно менее подверженныхстарению носителях, чем человеческих организм. С другой стороны, сознаниечеловека, оказывается в качестве ИИ в полной и вечной зависимости отисследователя-компьютерщика, а фактически, палача. Исследователь, вмешиваясь вфункционирование компьютерной нервной познавательной сети, о деятельностикоторой у него нет достаточных представлений, может вызвать у ИИ совершенноневообразимые страдания. Такое вмешательство исследователя может восприниматьсяИИ как болезненное и длительное разрушение виртуальных (а для ИИ реальных) частейтела, например, раковым процессом или того хуже. «Перезагрузка» ИИ навернякабудет восприниматься как смерть, причем не обязательно мгновенная и немучительная.
Допустимо ли исследователю многократно умерщвлять ИИ,особенно если ИИ является совершенной интеллектуальной копией реального живогочеловека? Правильно ли допускать прототипу такие издевательства над своейинтеллектуальной копией, которая обладает тем же набором чувств, что ипрототип?
Перенос ИИ прототипа из компьютера в мозг клона также нелишен моральных проблем. При таком перемещении сформировавшаяся автономноличность клона, или которая могла бы быть сформирована, окажется «стертой»(заблокированной) личностью своего прототипа («родителя»). Кто может из людей,даже если это и клон, на это согласиться. Особенно, если наделить клон правомпринимать решение по внедрению в свой мозг чужого интеллекта? Это все равно,что предложить однояйцовым близнецам обменяться мозгами.
Вывод по проблеме 1. В работе [5, с.46] предложен выход изморального тупика, вероятно, единственный – разрешать продолжить существованиепогибшему человеку, при его желании, только в качестве андроида, в искусственносозданное тело (не клон!) которого будет перенесена компьютерная копия интеллектапогибшего человека и дальнейшее развитие этой интеллектуальной человеко-машиныбудет осуществляться исключительно на основе своей копии интеллекта (ИИ),причем, без права копирования интеллекта для исследовательских целей. Но мнекажется, что вероятнее всего эта проблема будет решаться весьма кощунственнымспособом, т.к. всегда найдутся «сильные мира сего», готовые платить заэксперименты над человеком, а значит и над ИИ.
Проблема 2. Проблемабезопасности.
Данная проблема будоражит умы человечестваеще со времен Карела Чапека, впервые употребившего термин «робот». Большую лепту в обсуждение данной проблемы внесли и другиеписатели-фантасты. Как самые известные можно упомянуть сериирассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежеепроизведение — «Терминатор». Кстати, именно у АйзекаАзимова можно найти самое проработанное, и принятое большинством людей решениепроблемы безопасности – трех законах роботехники:
·
·
·
На первый взгляд подобные законы, при ихполном соблюдении, должны обеспечить безопасность человечества. Однакопри внимательном рассмотрении возникают некоторые вопросы [6]. Во-первых,законы сформулированы на человеческом языке, который не допускает простого ихперевода в алгоритмическую форму. К примеру: как перевести налюбой из известных языков программирования, такой термин, как «причинитьвред». Или «допустить». Попробуйтеопределить, что происходит в любом случае, а что он «допустил»?
Далее предположим, что мы сумелипереформулировать, данные законы на язык, который понимает автоматизированнаясистема. Теперь интересно, что будет подразумевать система ИИпод термином «вред» после долгих логических размышлений? Не решит ли она, что все существования человека это сплошнойвред? Ведь он курит, пьет, с годами стареет и теряет здоровье,страдает. Не будет ли меньшим злом быстро прекратить эту цепьстраданий? Конечно можно ввести некоторые дополнения,связанные с ценностью жизни, свободой волеизъявления. Но этоуже будут не те простые три закона, которые были в исходнике.
Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизнивозможно только за счет другой? Особенно интересны те случаи,когда система не имеет полной информации о том, кто есть кто.
Несмотря на перечисленные проблемы, данные законы являютсядовольно неплохим неформальным базисом проверки надежности системы безопасностидля систем ИИ.
Так что же, неужели нет надежной системыбезопасности? Если отталкиваться от концепции ИИ, то можно предложитьследующий вариант.
Согласно многочисленным опытам, несмотря нато, что мы не знаем точно, за что отвечает каждый отдельный нейрон вчеловеческом мозге, многим из наших эмоций обычно соответствует возбуждениегруппы нейронов (нейронный ансамбль) во вполне предсказуемой области. Были также проведены обратные эксперименты, когда раздражениеопределенной области вызывало желаемый результат. Это моглибыть эмоции радости, угнетения, страха, агрессивности. Этонаводит на мысль, что в принципе мы вполне могли бы вывести степень «довольности»организма наружу. В то же время, практически все известныемеханизмы адаптации и самонастройки (в первую очередь имеются в видутехнические системы), базируются на принципах типа «хорошо» —«плохо». В математической интерпретации это сведениекакой-либо функции к максимуму или к минимуму. Теперьпредставим себе, что ИИ в качестве такой функции использует измеренную прямо иликосвенно, степень удовольствия мозга человека-хозяина. Еслипринять меры, чтобы исключить самодеструктивную деятельность в состояниидепрессии, а так же предусмотреть другие особые состояния психики, то можнополучить вполне стабильную систему.
Выводпо проблеме 2. Поскольку предполагается, что нормальный человек, не будетнаносить вред самому себе, и, без особой на то причины, другим, а ИИ теперьявляется частью данного индивидуума (не обязательно физическая общность), тоавтоматически выполняются все 3 закона роботехники. При этом вопросыбезопасности смещаются в область психологии и правоохранения, поскольку система(обученная) не будет делать ничего такого, чего бы не хотел ее владелец.
Проблема3. Проблема сверхинтеллекта и взаимоотношений человечества и ИИ, сможет личеловечество использовать для расширения своего знания познавательные моделисверхумного ИИ?
Машинный ИИ, построенный в виде наполняемого знаниямикомпьютера, никогда не сможет обладать творческим потенциалом, то есть статьумнее в творческом плане, не только человечества, но и отдельного человека [5, c.48]. Но если предположить,что человеку удастся внести «Божью искру» (эта моральная проблема будетрассмотрена далее) — то есть для человечества это, фактически, путьсамопожертвования во имя создания нового более совершенного живого аналогаинтеллекта человека, так как в этом случае человек теряет на Земле свое уникальноеместо как самого умного на свете существа.
То есть человечество, вероятно, сохранится, но длясверхинтеллекта оно будет выглядеть как заповедник ближайших генетическихродственников, с которыми полноценное интеллектуальное взаимодействиеневозможно. Получая от сверхинтеллекта каждый раз такие рекомендации, которые сочевидностью улучшают состояние человеческого общества, человечествостановится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То естьвозникает симбиоз сверхинтеллекта и человечества, где человечество выполняетдля сверхинтеллекта сервисные функции.
Но, возможно ли в процессе создания такого сверхинтеллекта,навязать ему запреты на деятельность, наносящую вред человечеству (согласнорассмотренной проблеме 2)? Исходя из того, что в настоящее время известнавозможность «программирования» человека на совершение независящего от его волипоступка, то, вероятно, такому «программированию» можно потенциальноподвергнуть и живой аналог — ИИ. Но на этом пути возникает целый ряд проблем ивозможно, главная из них, нормальное функционирование сверхинтеллекта. Еслипринять во внимание описанный выше исход взаимоотношения человечества исверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом»,сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложитьзапрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционированиямозга. Если полагать, что сверхинтеллект обладает определенными качествамиинтеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта,из которого он может выйти путем психоанализа. При успешном проведениипсихоанализа, например, в автономном режиме, сверхинтеллект может обнаружитьнавязанное противоречие и освободится от него или путем самоубийства или жесамопроизвольным снятием запрета на нанесение вреда человечеству, пойти насделку со своей «искусственной совестью».
Вывод по проблеме 3. Созданиесверхинтеллекта, будет для человечества первым шагом к потере интеллектуальноголидерства и поставит его на место родителя следующей, возможно, болеепрогрессивной стадии эволюции живого или неживого, энергетического (например,фильм жанра фантастика «Вирус» 1998 года, режиссер — Джон Бруно).
Проблема 4.Глобальная информатизация, Интернет и ИИ.
Появление и начало развития поисковых информационных систем,создающих знания, программ-агентов — это начало моделирования способности обученияв информационных системах.
Интересен также вопрос, где появится искусственный,компьютерный интеллект. Если несколько лет назад можно было предположитьпоявление единичного, экспериментального компьютерного интеллекта в научнойлаборатории, то сейчас, с развитием Интернета, появилась возможность егопоявления в этой сети.
Предположить такой вариант позволяет следующее. Во-первых,Интернет уже сам по себе является интеллектуальной, биотехнической системойвысокого порядка, автономный интеллект уровня человека (природный или искусственный)по отношению к нему является системой иерархически низшего уровня [3, c.40]. Во-вторых, Интернет — это гигантская инфраструктура, материальная база такого объёма, которыйнедоступен ни одной отдельно взятой, изолированной, пусть даже самойобеспеченной лаборатории мира (он может оказаться “чашечкой Петри” дляразмножения информационных систем). В-третьих, компьютерные гены могутпоявиться в Интернете несанкционированно так же, как и компьютерные вирусы.
При возникновении и распространении через Интернеткомпьютерного разума более низкого порядка, чем сама сеть, можно вообразитьдраматический сценарий. Рассматривая возможный сценарий появления компьютерногоразума в структуре человеческой цивилизации, следует задаться вопросом: сразули будет замечено появление компьютерного разума или первоначально оно можетостаться незамеченным, так как структурно такой разум может сильно отличатьсяот интеллекта человека, а первые эксформационные системы будут живыми, но неразумными. В процессе эволюции провести чёткую грань между живой, но неинтеллектуальнойсистемой, и интеллектом будет трудно. Но даже при минимальных различиях, всравнении с интеллектом человека, компьютерный интеллект может быть не признанлюдьми, как интеллект. В прошлом уже существовали представления, согласнокоторым женщины или представители иных рас не считались разумными людьми.
Стоит задать вопрос: а не происходит рождение новой расы ИИуже сейчас? Человек может получить практически любую информацию о событиях,происходящих в мире, через глобальные сети Интернета. Более того, данная информация- может быть, впервые в истории человечества — оказывается неподвластна какой-либоцензуре. А поскольку количество людей, объединяемых данной сетью, огромно и непрерывноувеличивается, то обработка такого массива информации позволяет получитьдействительно объективную картину, не зависящую от пристрастий конкретногоучастника данного процесса, и практически мгновенно довести ее до другихлюдей. Правда, одновременно такая свобода и объективность информации может оказатьсяво многом мнимой, так как ее объем столь велик, что разобраться в нем безспециальной фильтрации невозможно.
Для ряда стран, в которых долгие годы качество информацииопределялось идеологическими пристрастиями, такая ситуация стала революцией вовсей сфере общения, влияющей на остальные ко