Искусственный интеллект и управление

Размещено на http://www.allbest.ru/

Содержание

Введение

Основы искусственного интеллекта

Машинные и человеческие возможности: примеры, практика и анализ

Плюсы и минусы использования искусственного интеллекта в управлении

Заключение

Список использованной литературы

Введение

Наш мир, возможно, близится к катастрофе. К такому выводу нетрудно прийти при любом трезвом анализе состояния нашей планеты. Экономический застой, нищета, безудержная инфляция, массовая безработица, перенаселение, политические раздоры, терроризм, войны и опасность их возникновения, а также угроза наступления «судного дня» не обошли ни одного уголка земного шара. Разумеется, перед человечеством всегда стояло немало проблем, но сегодняшние проблемы, естественно, представляются более значительными, чем те, что были в прошлом. Теперь мы, по-видимому, в самом деле достигли точки, где нужно поступиться чем-то очень существенным. К сожалению, основную вину за это принято возлагать именно на развитие техники, т.е. как раз на то, в чем человечество на протяжении всей своей истории пыталось найти решение многих проблем.

Техника сопутствует человеку в течение тысячелетий и представляет собой не что иное, как совокупный результат стремлений человечества к лучшей жизни. Сейчас, однако, находятся люди, которые считают, что развитие техники, напротив, ухудшает, а не улучшает жизнь. Проблемы, стоящие ныне перед людьми, различны по своим масштабам: от социальных сдвигов, вызванных технологическими изменениями, безработицы, загрязнения окружающей среды и угрозы ядерного уничтожения до отчуждения и неудовлетворенности работой и ее конкретными результатами. К этому можно добавить следующее. Не исключено, что именно сложность, порожденная техническим прогрессом, несет ответственность за не поддающиеся лечению недуги экономики и что значительную опасность начинают представлять технические системы, которые становятся настолько сложными, что вскоре людям будет недоставать знаний и понимания для управления ими.

Естественно, возникает вопрос, как же решать эти проблемы? Могут ли неодушевленные творения техники найти ответы на вопросы, которые она сама же и поставила, и еще на мириады других, приводящих в отчаяние род человеческий? Способны ли сами машины прийти к решениям, которые ускользают от человеческого разума? В данной курсовой работе мне хотелось бы доказать, что в принципе это возможно и, более того, в будущем это обязательно должно случиться.

Подобное утверждение - не просто плод мечтаний. Оно основывается на открытиях, которые день за днем совершаются в различных лабораториях мира, наиболее плодотворно работающих в области вычислительной техники. Длительное время ошибочно считалось, что на выходе компьютера можно получить лишь то, что заложено в него на входе. Это представление, безусловно, находило себе подтверждение на протяжении последних 30 лет в большинстве работ, связанных с обработкой данных. Теперь, однако, неопровержимо доказано, что от компьютеров можно получить нечто совершенно новое, а именно знания. Эти знания в свою очередь могут принимать форму оригинальных идей, стратегий и решения реальных проблем.

До сих пор знания, созданные машиной, не имеют большого практического значения, они не способны излечить те глубокие недуги, которыми болен наш мир. Этого и следовало ожидать: ведь биолог, приступив к синтезу живой материи, в лучшем случае ожидает получить всего лишь вирус, а не взрослую лошадь. Но, несомненно, со временем станет возможным направить компьютеры на поиск не решений в шахматной или какой-то другой игре, а более острых проблем, стоящих перед обществом. И, скорее всего он их найдет.

Безусловно, на это потребуется много времени, но если человек поставит перед собой такую цель, он рано или поздно ее достигнет. Хочется верить, что настанет день, когда нищета, голод, болезни и политические распри будут укрощены, и свою роль в этом сыграют новые знания, полученные компьютерами, действующими как наши помощники, а не рабы. Кроме того, умственный и художественный потенциал человека получит совершенно иные возможности развития, которые сегодня трудно даже вообразить, и как никогда широко распахнутся врата человеческого воображения.

И нам нельзя упустить свой шанс, хотя, возможно, это будет нелегко. Нам придется полностью отказаться от традиционного технического подхода с его главной целью - обеспечить максимальный экономический эффект от использования машин и перейти к стратегии, направленной на то, чтобы сделать процессы, происходящие в системах, вполне понятными для людей. Для этого компьютеры должны научиться мыслить, как люди, т.е. если вычислительные системы следующего десятилетия не попадут в «человеческие рамки», они станут столь сложными и непонятными, что человек попросту не сможет управлять ими. Невозможность справиться со столь сложными системами сначала будет приводить просто к срывам (если говорить о многих приложениях этих систем, которые имеются сегодня); если же речь идет о военных системах предупреждения, о системах управления атомными электростанциями или глобальных системах связи, то выход их из-под нашего контроля может привести к катастрофам всемирного масштаба.

Основы искусственного интеллекта

С начала 80-х годов в работах по искусственному интеллекту наступил новый этап - создание промышленных и коммерческих образцов интеллектуальных систем. Стала развиваться промышленность, производящая такие системы, а значит, и появились потенциальные потребители ее продукции. Что отличает интеллектуальные системы от других творений человеческого разума? Что можно ждать от их появления в недалеком будущем?

Ключевым термином искусственного интеллекта является термин «знание». С известной долей приближенности можно было бы сказать, что интеллектуальные системы - это системы, использующие знания. Именно этим они отличаются от иных искусственных систем (включая программные, которые реализовались на ЭВМ в эпоху, предшествующую интеллектуальным системам), основанных, как правило, на тех же ЭВМ.

Оставаясь на метафорическом уровне, можно сказать, что раньше ЭВМ «понимали», как надо выполнить введенную в них программу, но «не понимали», что они при этом делают, а с появлением интеллектуальных систем ЭВМ научились «понимать», как построить нужную для решения поставленной задачи программу и что эта программа делает. Поясним эту важную мысль. При традиционном способе решения задачи на ЭВМ суть самой задачи, ее содержательную интерпретацию знал программист, который готовил программу для ЭВМ. Это могли быть различные программы: для игры «нарды» или «го», расчета траектории движения космического корабля или начисления заработной платы. Когда эти программы вводились в ЭВМ, содержательная сторона задач исчезала - ЭВМ в силу своей конструкции качественно одинаково выполняла команды любой из программ. В паре «программист-ЭВМ» лишь первый знал, что делает ЭВМ, а вычислительная машина, подобно мощному арифмометру, просто выполняла нужные преобразования и вычисления.

В этой традиционной схеме таилась опасность. Она заключалась в нерасторжимости пары «программист - ЭВМ» при решении задач. Программист, как «раб на галере», должен был взаимодействовать с машиной, «равнодушно» перемалывающей любую введенную в нее информацию.

Появление интеллектуальных систем свидетельствовало о сломе этой парадигмы. Если в память ЭВМ ввести знания о том, как из условий задачи строятся программы и что означает та или иная задача в данной проблемной области (т.е. как интерпретируется цель задачи и каковы возможные связи между исходной ситуацией и целью), то функции программиста будет выполнять сама ЭВМ. Она автоматически, на основе имеющихся у нее в памяти знаний о проблемной области, о задачах, которые здесь могут возникнуть, и о путях их решения, сможет самостоятельно составить нужную программу и выполнить ее.

Этот момент принципиален. Введенные в ЭВМ знания позволяют ей теперь «понимать», что она должна делать, когда возникает необходимость в решении задачи. Кстати, когда именно возникает эта необходимость, ЭВМ тоже «знает» сама (хотя требование на решение задачи может прийти извне - от пользователя системы).

Так формируются основные задачи, которые стоят перед той ветвью искусственного интеллекта, которую в наши дни все чаще называют инженерией знаний. Каковы же эти задачи? Прежде всего, это задача сбора знаний, которые необходимы ЭВМ. Задача эта далеко не так проста, как может показаться па первый взгляд. Ведь кроме тех знаний, которые воплощены в различных текстах, профессионалы владеют многими знаниями, которые нельзя найти ни в руководствах, ни в инструкциях, ни в монографиях. Это те знания, которые обычно называют опытом, умением, профессионализмом. Зачастую опытный специалист даже не подозревает, что он владеет огромными знаниями. Ему кажется, что он «просто работает и все», а еще не накопивший опыта коллега смотрит на него с завистью, не понимая, почему у него самого все выходит не так. Суметь получить эти знания от эксперта-специалиста, суметь представить их в форме, пригодной для ввода в память ЭВМ,- первая и весьма нетривиальная задача инженера по знаниям. Но этого мало. Накапливая знания, полученные из различных источников, надо постоянно заботиться о том, чтобы они не образовали противоречивую систему: всякое новое знание должно быть увязано с ранее имевшимися. Появление нового знания может потребовать какой-то перестройки созданной ранее базы знаний. Для этого нужны специальные процедуры управления ею. Разработка подобных процедур и манипулирование ими - вторая задача инженера по знаниям.

Получая информацию из окружающего мира, анализируя возникающие ситуации, человек постоянно обращается к сведениям, хранящимся в его памяти. Привлекая уже известное для понимания нового, человек, используя свои знания, как бы достраивает входные описания, пополняет их. В любом разговоре двух людей понимание реплик возможно лишь потому, что в памяти собеседников хранится много дополнительной информации о предмете разговора. И ЭВМ для пополнения знаний должны располагать набором подобных же процедур. Для этой цели используются так называемые псевдофизические логики: временная, пространственная, каузальная и другие. С их помощью происходит пополнение входных описаний, что обеспечивает их понимание. Кроме пополнения описаний в базах знаний осуществляются и другие процедуры: обобщение и классификация поступающей информации, выдвижение гипотез о связях фактов, хранимых в памяти системы, разнообразный по типу, достоверный и правдоподобный вывод производных фактов и т.д. Это еще одно поле деятельности инженера по знаниям.

Однако, касаясь непосредственно темы курсовой работы нам важно отметить массовое внедрением ЭВМ во все сферы управления. Это вопрос о возможности человека-администратора понять те решения, которые принимает ЭВМ, включенная в систему управления. Системы управления сложными техническими комплексами сегодня буквально «нашпигованы» вычислительными машинами, связанными между собой в сложные структуры. Работая с недоступными для человека скоростями, перерабатывая огромное количество разнообразной информации, получаемой от объекта управления и от других машин, ЭВМ принимает решения, часто не понятные человеку. Единственный способ понять их - задать машине вопрос: почему решение такое? И ЭВМ обязана дать необходимые пояснения. Для этой цели в ней должна существовать специальная подсистема объяснения, которая позволяет ЭВМ «понимать», почему она приняла то или иное решение. Появление подсистем объяснения можно рассматривать как первый шаг на пути к «гуманизации» технических систем. Трудно переоценить значение этого шага. Слишком далеко ушли технические системы в своем развитии, слишком сложно стало человеку взаимодействовать с ними и слишком опасными могут быть последствия действий наших умных, но бездушных помощников.

Развитие работ в области искусственного интеллекта и широкое внедрение интеллектуальных систем в нашу жизнь - свидетельство нового этапа на пути научно-технического прогресса. Он неизбежен - и мы должны быть готовы встретить его последствия с полным пониманием происходящего. Не проблема КТО КОГО и не опасения, что ОНИ поработят НАС, если мы не примем мер, должны определять этот новый этап жизни человечества, а содружество МЫ + ОНИ, из которого человечество, несомненно, извлечет огромную пользу, ибо оно поможет нам решать задачи, с которыми нам одним не справиться.

Машинные и человеческие возможности: примеры, практика и анализ

28 марта 1979 г. на атомной электростанции «Тримайл Айленд» (шт. Пенсильвания, США) в зале управления № 2 раздался сигнал тревоги. Сначала операторы не проявили особого беспокойства, так как незначительные аварии на станции были не столь уж редки, но уже через несколько минут стало ясно, что на сей раз случилось что-то гораздо более серьезное. Заело крошечный клапан пневматической системы, и это привело к прекращению циркуляции воды в системе водяного охлаждения вторичного контура. Спустя мгновения урановая активная зона реактора начала разогреваться, и, несмотря на все старания операторов, положение лишь ухудшалось. Открылся предохранительный клапан и залип в этом положении; радиоактивная вода и пар пошли в здание реактора, а значит, и в атмосферу. Под крышей корпуса реактора образовался огромный пузырь водорода, который мог взорваться в любую минуту. Создалась угроза, что начнет плавиться и само урановое топливо. Любое из этих событий могло бы привести к радиоактивному загрязнению всей территории шт. Пенсильвания.

Последующие несколько дней персонал станции вместе со специалистами из Комиссии по ядерному регулированию боролись за то, чтобы взять реактор под контроль, а напуганный мир с тревогой следил за этой борьбой. Губернатор штата отдал приказ об эвакуации из опасной зоны детей и беременных женщин, а многие жители уезжали сами. Лишь неделю спустя компания «Метрополитен Эдисон», которой принадлежала станция, сообщила, что начаты работы по консервации остановленного реактора, и жизнь в Пенсильвании постепенно стала входить в нормальное русло. Несколько лет ушло на то, чтобы расчистить «авгиевы конюшни», в которые превратилось здание реактора.

Комиссия, занимавшаяся изучением роли человеческого фактора в этом инциденте, пришла к следующему выводу: «... на оператора обрушилась такая лавина информации: показания дисплеев, предупредительные сигналы, данные распечаток и тому подобное, - что было совершенно невозможно выявить неисправность и правильно выбрать меры по устранению».

Президентская комиссия согласилась с этим выводом, заключив, что вину следует возложить на «недостаточное внимание к человеческому фактору и его роли в обеспечении безопасности атомных станций». Урок, вынесенный из этой аварии, очевиден: пока конструкция технических систем не будет во всех деталях продумана так, чтобы все происходящее в них было абсолютно понятно обслуживающему персоналу, пока информация не будет представлена в форме, удобной для восприятия человеческим глазом и мозгом, а не машиной, любая неполадка в автоматизированной системе может сделать ее полностью неуправляемой.

В 1975 г. голландская сталеплавильная компания «Эстель Хуго-венс» установила на своем заводе, что расположен на берегу моря недалеко от Амстердама, новый высокоавтоматизированный стан горячей прокатки. Предвкушая гигантский рост производительности труда в связи с внедрением передовой технологии, дирекция предприятия была потрясена, обнаружив, что в действительности выпуск продукции снизился. На помощь пригласили консультантов из «Бритиш стил корпорейшн», которые в отчете о результатах исследования указали, что главная причина заключается в неправильной организации взаимодействия операторов с машиной. В журнале New Scientist это описывалось так: «Операторы настолько потеряли уверенность в себе, что в ряде случаев просто бросали пульт управления без присмотра. Кроме того, операторы не всегда до конца понимали теорию управления, лежащую в основе программы управляющего компьютера, и это побуждало их по возможности «самоустраняться» от управления, пока не обнаруживались явные неполадки. Но вследствие того, что они вмешивались в процесс с большим опозданием, средняя производительность оказалась ниже, чем на заводах, использующих традиционные методы управления. Таким образом, автоматизация повлекла за собой снижение производительности и одновременно еще больше отстранила операторов от процессов управления».

Проблема усугублялась еще и тем, что в новой конструкции прокатного стана полоса на протяжении всего пути прокатки скрыта от глаз, что не позволяло операторам хотя бы зрительно следить за процессом. В своем отчете консультанты, в частности, безоговорочно настаивали на том, что операторов необходимо приблизить к технологическому процессу, а информационные дисплеи должны помогать людям понимать смысл решений, которые принимает автоматика, а не просто сообщать о ходе процесса.

Следующий пример ? управление воздушным сообщением, которое вызывает равное беспокойство как у пассажиров, так и у диспетчеров во всем мире. Слишком частыми стали случаи, когда самолеты едва не сталкиваются в полете, не говоря уже о сбоях в электронном оборудовании, которые оставляют диспетчеров беспомощными на протяжении столь драгоценных секунд, а то и минут. По данным лаборатории координирования научных исследований Иллинойсского университета управление воздушным сообщением с помощью ЭВМ в Америке становится столь сложным, что операторы иногда с трудом могут разобраться в происходящем. Что касается перспектив на будущее, то высказываются две противоположные точки зрения на то, какими должны быть системы управления, которые придут на смену существующим ныне. Одни специалисты призывают ко все большей автоматизации, полагая, что это исключит неопределенности, связанные с присутствием человека; другие считают, что люди и машины должны быть в своем роде партнерами в этом общем деле. Но по какому бы пути ни пошло дальнейшее развитие систем управления, всегда возможны ситуации, где потребуется вмешательство человека. И если создатели системы заранее не позаботятся о том, чтобы человек мог понять, как работает система, то его вмешательство скорее всего будет весьма незначительным и произойдет с большим опозданием.

Нельзя обойти стороной и военную проблематику.

В течение восьми месяцев 1979-1980 гг. вооруженные силы США получили три ложных сигнала тревоги, предупреждающих о «нападении» советских ракет. Все сигналы поступили из центра управления Северо-американскими воздушными силами, запрятанного в глубине горы в шт. Колорадо. Первая ложная тревога была просто результатом ошибки оператора, который по небрежности заложил в систему пленку с информацией, предназначенной для обучения. Второй раз вышел из строя один из компонентов системы: отказала интегральная схема. Третий сигнал оказался преднамеренным - это была попытка воспроизвести условия второй тревоги в целях проверки.

К счастью, спустя несколько минут после этих ложных тревог был дан отбой, однако вызванное ими нервное перенапряжение не забыто. Совершенно ясно, что система, которая в буквальном смысле слова может привести к концу света, должна быть сделана так. чтобы полностью исключалась возможность недопонимания в взаимосвязи человек - машина.

Вывод, который следует из этих историй, очевиден: по мере того как технические системы все более усложняются, их становится все труднее понимать, а следовательно, и контролировать. Особенно это относится к вычислительным системам, которые, даже предназначаясь для выполнения простейших вещей, должны быть очень сложными. Мы стремимся к тому, чтобы они смогли решать задачи практического значения, и тем самым увеличиваем их сложность до уровня, понимание которого лежит вне возможностей человека или даже группы людей. Такое время уже пришло. Как мы только что показали, большие вычислительные программы и операционные системы вырастают до масштабов, когда с ними не в состоянии справиться ни их творцы, ни пользователи.

Если вычислительные системы будут и в дальнейшем развиваться по тому же пути, как сейчас, когда на их и без того не слишком надежную архитектуру возлагается все больше функций, то можно не сомневаться, что ЭВМ 90-х годов станут совершенно непригодными для пользования: неуправляемыми и пугающими - этакими помощниками всемирного «злого духа». Человеческое общество, которое уже сейчас сильно зависит от подобных машин, столкнется с кризисом чудовищных масштабов. Вычислительные машины - в том виде, как они существуют сейчас,- в некотором смысле уже достигли предела своих возможностей. Сегодня главная задача состоит уже не в том, чтобы довести их производительность до максимума, извлечь все возможное из машинных ресурсов. Напротив, их работа должна основываться на совершенно иной идее - идее антропоцентризма. Чтобы мы могли понять работу машин, нужно научиться организовывать ее по образу и подобию работы человеческого мозга.

Можно и дальше развивать этот зловещий сюжет, представив себе наше будущее таким, как его не раз описывали писатели-фантасты, начиная с Сэмюела Батлера: мир в котором власть захватили машины. Эта идея обычно отвергается техническими специалистами как абсурдная. Но так ли она абсурдна? Взять хотя бы ЭВМ, которые уже используются в управлении жизнью наших городов. В ее функции входят не только задачи центральной администрации, но и коммунальные услуги, поддержание порядка в городе, образование, банки, воздушное сообщение, регулирование уличного движения, проблемы строительных и планирующих организаций. И наступает такой момент, когда соответствующие вычислительные сети начинают непосредственно обращаться друг к другу - первоначально по самым простым поводам. Если, например, в одной системе принято решение перекопать дорогу, то мусоровозам нужно изменить маршрут движения. Если кто-нибудь заказывает билет на самолет, то авиакомпания должна проверить, имеет ли он право пользоваться представленной кредитной карточкой.

Экстраполируем эту тенденцию до 2010 г. и представим себе, что автоматическая система городской администрации, сети медицинских учреждений, банков и управления дорожным движением, система массовой информации, обретя достаточно сильный встроенный интеллект, окажутся лучше приспособленными к решению большинства заданий, чем люди. Кроме того, эти системы будут обладать собственными автономно перемещающимися радиоуправляемыми исполнительными механизмами и смогут непосредственно и многообразно общаться друг с другом. Вообразим теперь ситуацию, когда контролируемые компьютером системы начнут формулировать собственные цели, когда не найдется никого, кто хотя бы понимал соответствующую документацию, не говоря уже о работы- самих систем. Каждый человек способен различать лишь одну-единственную тропинку в электронных джунглях. В этом случае мы должны быть абсолютно уверены в том, что все оценочные функции и эвристические правила именно таковы, как нам хотелось бы, ибо электронному городу придется вступать в различные деловые контакты с другими подобными электронными городами. Каждый город имеет в своем распоряжении определенные ресурсы и может заключать определенные договоры. Один город, например, желает как-то перестроить свое водоснабжение, а от системы управления другого города зависит стоимость этой перестройки. А в обмен система регулирования дорожного движения в первом городе может, скажем, сделать так, чтобы толпы футбольных болельщиков в воскресенье направлялись по другому маршруту... и т.д. К 2500 или 3000 г. это может кончиться тем, что люди превратятся в безвольные придатки автоматизированных городов, управляемых гигантскими электронными «нервными системами», действия которых подчиняются выработанным ими же непостижимым стратегиям и законам. Хуже того, мы можем стать паразитирующим вымирающим видом. Чтобы ничего этого не случилось, т.е. из соображений жесткой необходимости, а не просто вкуса, нужно придать электронной технологии человеческое лицо и стиль поведения.

Обращаясь теперь к менее кошмарным, но более насущным проблемам, посмотрим на глубокий застой в экономике, высокий уровень безработицы, кризисы доверия, которые в последние годы все больше беспокоят мир. Все эти явления, действительно имеющие место, на первый взгляд совершенно необъяснимы. Начнем с проблемы экономического роста, а точнее - его отсутствия. На самом деле производительный капитал промышленно развитых стран не сокращается. Тем не менее в связи с непрерывным прогрессом науки и техники он постоянно трансформируется. Какова природа этого изменения? Вложенный капитал приносит более высокие прибыли. Рабочие на заводах ныне могут производить за день больше, чем тридцать лет назад. Фермер может накосить больше сена, чем нужно для того, чтобы оправдать прокат сенокосилки. Недалек день, когда появятся самоуправляемые сенокосилки.

Более того, научно-техническое развитие происходит не просто с постоянной скоростью: каким бы способом мы ни оценивали его темпы, очевидно, что они неуклонно возрастают. Почему в таком случае мы не богатеем такими же темпами? Даже делая скидку на потери, связанные с реорганизацией работы в тех или иных отраслях, человечество в целом должно бы оказаться в значительном выигрыше. Видимо, действует некая сила, блокирующая тот рог изобилия, из которого, казалось, должны были бы ныне сыпаться блага на всех нас.

Похоже, все мы едины в своих сожалениях по этому поводу. Но разные люди по-разному относятся к тому, какую именно составляющую этого процесса следует клеймить. Одни абсолютно уверены, что в этом повинны профсоюзы, которые состоят в тайном заговоре с невидимой сетью подрывных элементов и террористов всего мира, добивающихся своих политических целей. По мнению других, виновников следует искать в конторах гигантских корпораций и банков, возможно действующих в союзе с тайной сетью транснациональных монополий и картелей, во главе с одним-двумя «злыми карликами» из Цюриха, преследующими свои политические цели. Есть и третья «школа мысли», быть может, не столь подверженная страстям, как предыдущие две, но зато еще более бредовая, которая считает, что во всем виновата сама техника. Не редки случаи, когда разъяренный покупатель готов срывать злость на неработающем автомате по продаже мелких товаров до тех пор, пока окончательно не лишит его возможности работать.

Хотя, возможно, подобная антитехническая позиция не столь и бредова. Эту идею можно, по крайней мере, обсудить, поскольку приведенные ранее примеры действительно говорят о том, что наши технические достижения чем-то похожи на неработающий автомат.

Придется сделать небольшой экскурс в глубины истории, чтобы выяснить, а был ли на всем ее протяжении какой-либо устойчивый и в то же время эволюционирующий процесс? Такой процесс нетрудно найти - толчком ему послужило развитие земледелия. И тысячелетие за тысячелетием наши предки, казалось, не замечали, что этот процесс непрерывно идет в одном направлении, пока в XIX-XX вв. мы не достигли последней стадии ускорения. Таким устойчивым процессом был постепенный, хотя и мучительный, со многими сбоями и остановками, рост понимания человеком окружающего мира, рост его способности управлять этим миром.

Сегодня с помощью вычислительной техники мы пытаемся научиться решать сложные проблемы, которые пока не могут решаться на ЭВМ,- проблемы, которые невозможно решить «в лоб», находя за конечное число шагов ответ на вопрос путем простых расчетов. Однако случается, что, хотя сама задача очень трудна, обратная задача решается гораздо легче. К примеру, вычислять квадратный корень весьма непросто, а квадрат числа - очень легко. Не исключено, что школьник сочтет более экономичным вычислить квадраты всех чисел, о которых его могут спросить, и заполнить огромную таблицу результатов (только записывая их наоборот: сначала квадраты, упорядоченные по величине, а для них - основания, возможно, с некоторой интерполяцией для заполнения пропусков). Тогда, если понадобится узнать какой-нибудь квадратный корень, можно просто заглянуть в таблицу. Но у этого метода есть один большой недостаток - полученный результат абсолютно необъясним для пользователя.

Возникает вопрос, а не лучше ли вообще не выдумывать подобного рода тупых справочных систем, само наличие которых унижает человека, ибо они пренебрегают его суждениями и пониманием. Интересно, что впервые этот довод более 2300 лет назад привел Платон. В его «Федре» Сократ рассказывает историю о египетском боге Тоге, который пришел к царю богов Тамузу со словами: «Господин мой, я изобрел остроумную вещь, называемую письменностью, она усовершенствует как мудрость, так и память египтян».

В ответ Тамуз заявил, что, напротив, письменность - это низкопробная замена памяти и понимания. «Тот, кто обретет ее, перестанет тренировать свою память и станет забывчивым, он будет полагаться на письменность, надеясь, что эти значки напомнят ему что-то, вместо того чтобы рассчитывать на свои внутренние резервы».

Сократ цитирует Аммона, обличающего порочную мысль, что «можно передать или получить ясные и четкие знания о предмете посредством письменности или что написанные слова способны сделать больше, чем просто напомнить читателю о том, что он уже и так знает». Другими словами, человек может решить, что мудрость заключена в письменности, тогда как в действительности мудрость должна быть в самом человеке. «Можно было бы предположить,- добавляет Сократ,- что написанные слова понимают то, что в них говорится, но если их переспросить, что подразумевается под тем-то и тем-то, то они снова и снова будут давать один и тот же ответ».

Иначе говоря, Сократ как бы сетует по поводу того, что письменность не сможет выдержать знаменитый тест Алана Тьюринга (согласно этому тесту, машина может доказать, что она обладает интеллектом, если ей удастся убедить беседующего с ней через телепринтер человека в том, что его собеседник - человеческое существо). В самом деле, если бы машина могла объяснить то, что в ней заключено, то можно было бы считать, что в некотором смысле она «поняла», продемонстрировав таким образом свой интеллект. Как и письменность, справочные системы будущего с памятью на триллионы бит не смогут пройти тест Тьюринга. Но, как и письменность, такие системы, безусловно, имеют право на существование, и помогут изменить мир. Хорошо это или плохо? До тех пор пока мы не разберемся в сути претензий Сократа применительно к этой новой проблеме, такие гигантские справочные системы будут лишь отчасти благом, которое нередко оборачивается и большими неприятностями. Напомним, что такие базы данных содержат только основные элементарные факты, касающиеся того или иного вопроса, и не включают никакого понимания, выводов, суждений, классификационных понятий и тому подобного.

Чтобы любые существа - человеческие или машинные - могли общаться друг с другом, у них должен быть одинаковый склад ума. Так как изменить склад ума людей нам не дано, придется менять его у машин. Нужно целиком переделать все, что делают программы при решении задачи, а не только способ, которым они взаимодействуют с пользователем. Способ, каким в программе хранится информация, т.е. способ представления решения задачи, должен быть понятен человеку и описываться понятиями, уже знакомыми ему. Экспертные системы, основанные на правилах вывода, специально предназначены для того, чтобы иметь дело с человеческими понятиями, как при получении их у специалистов в данной области, так и при объяснениях пользователю. Для начала это неплохо, но нужно еще много сделать, чтобы наладить общение человека и машины на языке понятий.

Если аналогичные идеи используются для решения задач автоматизации производственных процессов или в других системах управления, то такую автоматизацию мы назовем «мягкой». Потребность в ней непрерывно возрастает, что позволяет хотя бы отчасти нейтрализовать излишнюю переусложненность, связанную с жесткой автоматизацией. Самая насущная социальная потребность заключается сейчас не в расширении процесса автоматизации, а в его гуманизации. Безусловно, для несложных или средней сложности задач «непрозрачность» систем управления не столь опасна, и поэтому мы долгое время мирились с ней. Допустим, что программа, занимающаяся распределением ресурсов, делает это лучше, чем руководитель проекта. В таком случае зачем ему любопытствовать, как она это делает, или оспаривать ее решения, если он получает то, что хочет? Пусть это будет «черный ящик» в той степени, в какой установлено программой.

Однако существуют и другие приложения информационных систем, где возможность «заглянуть внутрь ящика» весьма существенна. Пока их немного, так как процессам обработки информации еще предстоит глубоко внедриться во все более сложные и ответственные области человеческой деятельности. Сложность и ответственность - это две независимые характеристики систем, побуждающие нас настаивать на том, чтобы программа работала в «человеческих рамках». Некоторые проблемы столь трудны, что без интеллектуального партнерства человек - машина при их решении просто не обойтись. Другие касаются вопросов жизни и смерти или самой возможности управления экономикой.

При мягкой автоматизации система уже на стадии конструирования подгоняется под человеческий склад ума. Если, заглянув в будущее, представить себе полчища роботов, совместно работающих на наших заводах, неизбежно возникает вопрос: «Как будет осуществляться связь между ними? По проводам, с помощью инфракрасного излучения или радиосигналов, либо по каким-то другим недоступным для человека каналам?» Конечно, лучше бы осуществлять эту связь с помощью синтезированного голоса, ибо это позволило бы человеку-дежурному слышать, что происходит, и, как показала практика, это вполне возможно.

Плюсы и минусы использования искусственного интеллекта в управлении

Тенденция к автоматизации заводов и машин существует давно. Кроме как ради некоторых специальных целей, никто больше уже не думает о производстве болтов на обычном токарном станке, где токарь должен наблюдать за движением резца и регулировать его вручную. В настоящее время производство болтов в большом количестве без серьезного вмешательства человека представляет собой обыденную задачу обыкновенного винторезного станка. Хотя в этом станке специально не используется ни процесс обратной связи, ни электронная лампа, этот станок достигает почти аналогичных целей. Обратная связь и электронная лампа сделали возможным не спорадическое конструирование отдельных автоматических механизмов, а общую политику создания автоматических механизмов самых различных типов. В решении этой задачи принципы таких устройств были подкреплены нашим теоретическим исследованием сообщения, которое полностью учитывает возможности сообщения между машиной и машиной. Именно это стечение обстоятельств делает в настоящее время возможным новый век автоматики.

Существующая сейчас промышленная техника включает в себя всю совокупность результатов первой промышленной революции наряду со многими изобретениями, которые мы теперь рассматриваем в качестве предтечи второй промышленной революции. Каковы могут быть точные границы между этими двумя революциями, об этом рано говорить. По своим потенциальным возможностям электронная лампа определенно принадлежит к промышленной революции, отличающейся от века энергии; и все же только в настоящее время подлинное значение изобретения электронной лампы понято в достаточной мере, для того чтобы отнести настоящий век к новой, второй промышленной революции.

Нарисуем картину более совершенного века - века автоматики. Рассмотрим, например, как будет выглядеть автомобильный завод будущего, и в частности сборочная линия, представляющая собой ту часть автомобильного завода, которая использует наибольшее количество живого труда, последовательность операций будет управляться устройством, подобным современной быстродействующей вычислительной машине. Можно свести всю математику к выполнению ряда чисто логических задач. Если такой образец математики воплощен в машине, то эта машина будет представлять собой вычислительное устройство в обычном смысле. Однако такая вычислительная машина, кроме решения обычных математических задач, будет способна решать логическую задачу распределения по каналам ряда приказов относительно математических операций. Поэтому такое устройство будет содержать, подобно тому как его действительно содержат современные быстродействующие вычислительные машины, по крайней мере один большой узел, который предназначен для выполнения чисто логических операций.

Инструкции такой машине - я здесь также говорю о существующей практике - даются приспособлением, которое мы называем программной катушкой. Отдаваемые машине приказы могут посылаться в нее программной катушкой, характер и объем инструкции которой полностью предопределены. Также возможно, что реальные непредвиденные обстоятельства, с которыми толкнется машина при выполнении своих задач, могут передаваться в качестве основы дальнейшего регулирования на новую ленту управления, создаваемую самой машиной, или на видоизменение старой ленты управления.

Можно подумать, что современная большая стоимость вычислительных машин исключает их использование в промышленных процессах и, более того, что чувствительность работы, необходимая в их конструкции, и изменчивость их функций исключают методы массового производства при создании этих машин. Ни одно из этих утверждений не является правильным. Во-первых, огромные вычислительные машины, используемые в настоящее время для очень сложной математической работы, обходятся примерно в сумму порядка сотен тысяч долларов. Даже эта цена не была бы недоступной для управляющей машины на действительно крупном заводе, но это все же слишком дорого.

Современные вычислительные машины развиваются так быстро, что практически каждая сконструированная машина представляет собой новую модель. Иначе говоря, большая часть этих, очевидно, непомерных затрат идет на оплату новой работы по проектированию н производству новых частей, которые требуют очень высококвалифицированного труда и самых дорогостоящих условии. Если бы, следовательно, были установлены цена и модель одной из этих вычислительных машин и если бы эта модель применялась десятками, то весьма сомнительно, чтобы ее цена была выше суммы порядка десятков тысяч долларов. Подобная машина меньшей мощности, не пригодная для решения самых трудных вычислительных проблем, но, тем не менее, вполне пригодная для управления заводом, вероятно, стоила бы не больше нескольких тысяч долларов в любом виде производства умеренного масштаба.

Рассмотрим теперь проблему массового производства вычислительных машин. Если для массового производства единственной благоприятной возможностью было бы массовое производство типовых машин, то совершенно ясно, что в течение значительного периода лучшее, на что мы могли бы надеяться, - это производство в умеренном масштабе. Однако в каждой машине детали в основном повторяются весьма часто. Это в одинаковой степени относится и к запоминающему устройству, и к логическому аппарату, и к арифметическому узлу. Таким образом, производство только нескольких дюжин машин в потенции будет массовым производством деталей и имеет экономические преимущества массового производства.

Все же может показаться, что чувствительность машины должна означать необходимость создания специальной новой модели для каждой отдельной работы. Это также неверно. Даже при грубом сходстве в типе математических и логических операций, выполнение которых требуется от математических и логических узлов машины, общее выполнение машиной своих задач регулируется программной катушкой или, во всяком случае, первоначальной программной катушкой. Изготовление программной катушки подобной машины представляет собой очень сложную задачу для высококвалифицированного специалиста; однако это работа, которую делают раз и навсегда, и, когда машина видоизменена в целях нового промышленного монтажа, ее нужно только частично повторить. Таким образом, затраты на такого квалифицированного техника будут распределены на громадное количество выпущенной продукции н не будут действительно важным фактором при использовании машины.

Вычислительное устройство является центром автоматического завода, однако никогда оно не будет представлять собой весь завод. С другой стороны, оно получает свои подробные инструкции от элементов, имеющих природу органов чувств, как, например, от фотоэлементов, от конденсаторов для определения толщины рулона бумаги, от термометров, от измерителей концентрации водорода и от общих типов аппаратов, созданных в настоящее время приборостроительными фирмами для ручного управления производственными процессами. Эти приборы уже устроены так, что они передают на отдельные посты показания при помощи электричества. Для того чтобы обеспечить возможность передачи этими приборами своей информации в автоматическую быстродействующую вычислительную машину, необходимо лишь читающее устройство, которое преобразует положение или шкалу в форму последовательных цифр. Такое устройство уже существует и не представляет большой трудности ни в принципе, ни в конструктивных деталях. Проблема органа чувств не является новой, и она уже эффективно разрешена.

Система управления должна содержать в себе, кроме этих органов чувств, эффекторы, или воздействующие на внешний мир компоненты. Некоторые типы этих эффекторов уже знакомы нам, например двигатели с распределительным клапаном, электрические муфты и т. п. Чтобы воспроизвести более точно функции человеческой руки, дополненные функциями человеческого глаза, некоторые из этих эффекторов следует еще изобрести. При механической обработке автомобильных рам вполне можно оставить на металлических консолях гладко обработанные поверхности в качестве контрольных точек. Фотоэлектрический механизм, приведенный в действие, например от световых точек, может приводить рабочий инструмент - будет ли это сверло, или клепальный молоток, или какой угодно другой необходимый нам инструмент - в непосредственную близость с этими поверхностями. Окончательная фиксация положения может закреплять инструмент против контрольных поверхностей н таким образом устанавливать плотный контакт, однако не настолько плотный, чтобы вызвать разрушение этих поверхностей. Это только один из способов выполнения работы. Всякий квалифицированный инженер может придумать еще дюжину других.

Конечно, мы предполагаем, что действующие как органы чувств приборы регистрируют не только первоначальное состояние работы, но также результат всех предыдущих процессов. Таким образом, машина может выполнять операции обратной связи: либо вполне освоенные операции простого типа, либо операции, влекущие за собой более сложные распознавательные процессы, регулируемые таким центральным управлением, как логическое или математическое устройство. Иначе говоря, всеохватывающее управляющее устройство будет соответствовать животному как целому с органами чувств, эффекторами и проприоцепторами, а не изолированному мозгу, эффективность и практические знания которого зависят от нашего вмешательства, как это имеет место в сверхскоростной вычислительной машине.

Скорость возможного внедрения этих новых устройств в промышленность будет сильно различаться в различных отраслях промышленности. Машины-автоматы, выполняющие примерно те же самые функции, уже получили широкое применение в отраслях промышленности с непрерывными процессами, как, например, на консервных заводах, сталепрокатных станах и особенно на заводах, изготавливающих проволоку и белую жесть. Они также известны на бумажных фабриках, которые тоже работают по поточному методу. Другая область, в которой автоматы необходимы,- это такого рода заводы, где производство является слишком опасным, чтобы значительное число рабочих рисковало своей жизнью при управлении им, и где авария может быть столь серьезной и дорогостоящей, что ее возможность должна быть предусмотрена заранее, а не предоставлена поспешному суждению какого-нибудь человека, оказавшегося на месте аварии. Если возможно заранее продумать линию поведения, то ее можно нанести на программную ленту, которая будет управлять поведением в соответствии с показаниями прибора. Иначе говоря, такие заводы должны работать при режиме, довольно сходном с режимом блокировки и работы выключателей железнодорожного блок-поста. Такой режим уже установлен на нефтеперегонных заводах, на многих других химических предприятиях и в обращении с такого рода опасными материалами, какие встречаются при эксплуатации атомной энергии.

Мы уже упоминали о сборочной линии в качестве области применения такого рода техники. На сборочной линии, как и на химическом заводе или на бумажной фабрике с непрерывными процессами, необходимо осуществлять известный статистический контроль за качеством продукции. Этот контроль зависит от процесса опробования. Ученые в настоящее время развили эти процессы опробования, разработав технические приемы, называемые последовательным анализом, где опробывание больше не производится в целом, а представляет собой непрерывный процесс, происходящий наряду с производством. Следовательно, те процессы, которые могут быть выполнены настолько стандартизированной техникой, что ее можно передать в ведение статистика, не понимающего скрывающейся за ней логики, могут также выполняться вычислительной машиной. Иначе говоря, опять-таки за исключением высших уровней работы, машина может также заботиться о повседневном статистическом контроле, как и о производственном процессе.

Обычно на заводах существует процедура учета, которая не зависит от производства, однако поскольку данные этого ведения отчетности поступают из машины или со сборочной линии, их можно прямо послать в вычислительную машину. Другие данные могут вводиться в вычислительную машину время от времени человеком-оператором, однако большая часть канцелярской работы может выполняться механически, и только экстраординарные сведения, как, например, внешняя корреспонденция, останутся людям. Однако даже большая часть внешней корреспонденции может быть получена от корреспондентов на перфорированных картах или же напечатана на перфорированную карту очень низкоквалифицированным служащим. Начиная с этой ступени, все процессы могут выполняться машиной. Эта механизация также может применяться к значительной части библиотечного архивного фонда промышленного предприятия.

Иначе говоря, машина не отдает предпочтения ни физическому, ни канцелярскому труду. Таким образом, возможные области, в которые новая промышленная революция способна проникнуть, являются очень широкими и включают всякий труд, выполняющий решения низкого уровня, почти так же, как вытесненный машиной предыдущей промышленной революции труд включал любые стороны человеческой энергии. Конечно, некоторые профессии новая промышленная революция не затронет или потому, что новые управляющие машины не являются экономичными в таких незначительных отраслях промышленности, которые неспособны нести связанные с этим большие капитальные расходы, или потому, что работа у ряда специалистов столь разнообразна, что новые программные катушки будут необходимы почти для каждой отдельной работы. Я не могу представить, чтобы автоматическое машинное оборудование типа принимающих решения устройств начало использоваться в бакалейных лавках или в гаражах, хотя могу очень ясно представить использование этого оборудования оптовым торговцем бакалейными товарами и фабрикантом автомобилей. Сельскохозяйственный рабочий, хотя в его производство начинают внедряться автоматические машины, также защищен от их полного господства благодаря размерам земельной площади, которую он должен обработать, благодаря изменчивости посевов, которые он должен возделывать, особых условий погоды и тому подобных обстоятельств, с которыми он должен столкнуться. Там, где могут быть использованы такие машины, не является невероятным некоторое использование принимающих решения машин.

Конечно, внедрение этих новых устройств и сроки, в течение которых можно ожидать их внедрения,- это в основном вопросы экономического порядка, рассмотрение которых не является целью курсовой работы. Если не произойдет каких-либо насильственных политических изменений или новой большой войны, то новым машинам потребуется от десяти до двадцати лет, чтобы занять подобающее им место.

Очень важным вопросом является разбор последствий -экономических и социальных.

Во-первых, мы можем ожидать резкого падения и окончательного прекращения спроса на такого рода фабричный труд, который выполняет исключительно однообразную урочную работу. В конечном итоге ликвидация чрезвычайно неинтересных однообразных урочных заданий может принести пользу и послужить источником досуга, необходимого для всестороннего культурного развития человека. Но это также может привести к таким же малоценным и пагубным результатам в области культуры, какие по большей части были получены от радио и кино.

Как бы то ни было, переходный период внедрения этих но-вых средств, особенно, если он наступит мгновенно, чего можно ожидать в случае повой войны, выльется в непосредственный переходный период бедственного кризиса. Имеется большой опыт, показывающий, как промышленники относятся к новому промышленному потенциалу. Вся их пропаганда сводится к тому, что внедрение новой техники не должно рассматриваться как дело правительства, а должно быть предоставлено каждому предпринимателю, желающему вложить деньги в эту технику. Мы также знаем, что промышленников трудно чем-либо сдержать, когда дело доходит до извлечения из промышленности всех прибылей, которые только можно оттуда извлечь, чтобы затем предоставить обществу довольствоваться крохами.

В этих условиях промышленность будет наполняться новыми механизмами лишь в той степени, в какой будет очевидно, что они принесут немедленную прибыль, невзирая на тот будущий ущерб, какой они способны нанести. Мы явимся свидетелями процесса, идущего по той же линии развития, по какой идет Процесс развития атомной энергии, когда использование атомной энергии для создания бомб поставило под угрозу весьма неотложные возможности перспективного использования атомной энергии в целях замены наших нефтяных и угольных запасов, которые через столетия, если не через десятилетия, полностью истощатся. Обратим внимание на то, что производство атомных бомб не конкурирует с производящими энергию фирмами.