Энтропия индуктивного вывода

В 1936 г. английский математик Алан Тьюринг доказал теорему о неразрешимости проблемы остановки «универсальной машины Тьюринга». Этот результат показал алгоритмическую неразрешимость еще одной задачи Д.Гильберта («проблемы разрешимости», сформулированной им в 1928 г.): найти алгоритм, который, функционируя на основе формального языка, мог бы после конечного числа шагов определить истинность или ложность произвольного математического утверждения.

Описывая указанную «проблему разрешимости», поставленную Д.Гильбертом в 1928 г., и оценивая теоремы К.Геделя и А.Тьюринга, которые «разрушили надежды» Д.Гильберта, Н.Бурбаки в книге «Очерки по истории математики» [38] констатирует: «Уже среди обширных проектов Лейбница вопрос о решении этой проблемы занимал почетное место, и одно время школа Гильберта, по-видимому, считала, что подошла совсем близко к его разрешению. Действительно, для формализмов, содержащих мало первоначальных знаков и аксиом, можно описать эти процессы. Но усилия, направленные на уточнение проблемы разрешимости посредством четкого определения того, что следует понимать под «универсальным процессом», до сих пор приводили только к отрицательным результатам» [38, с.59].

По большому счету, теоремы Геделя и Тьюринга продемонстрировали, что процесс математического (и вообще научного) исследования не может сводиться к «механическому» использованию каких -либо детерминированных алгоритмов, к манипуляциям символами и правилами какого-либо формального языка. Научные открытия, расширяющие горизонт наших знаний, не могут быть результатом одной лишь дедукции. Мы можем делать эти открытия на основе правил, но эти правила (как показывает история науки) часто представляют собой вероятностные алгоритмы, а в ряде случаев - «обычный» метод проб и ошибок, в котором существуют элементы непредсказуемости (стохастичности). Метод проб и ошибок, часто применяемый в новой области исследований, можно рассматривать как инструмент получения исходной информации для индуктивной обработки, т.е. как «поставщика» исходных посылок для индуктивного обобщения.

Таким образом, теоремы Геделя и Тьюринга показали неосуществимость двух проектов, которые в свое время «наделали много шума» в науке: проекта Г.Лейбница по разработке универсального алгоритма и проекта Д.Гильберта по формализации всей математики (и вообще науки и научного познания). Одна из причин «несбыточности» этих проектов заключается в том, что в них делалась ставка на алгоритмическую надежность (строгость) дедукции. Той дедукции, которая, как мы сказали, практически не связана с какими-либо затратами вещества и энергии и достается нам «бесплатно», создавая иллюзию легкости научных исследований. Г.Лейбниц и Д.Гильберт не захотели делать ставку на такие методы изучения природы, как эксперимент и наблюдение, результаты которых, как мы увидели, являются основой для индуктивных выводов и одновременно причиной высокой величины энтропии этих выводов. Можно выразиться так: Г.Лейбниц и Д.Гильберт отказались от эмпирической индукции, поскольку не нашли в ней атрибутов строгого алгоритма, похожего на алгоритм дедукции.

Справедливость сказанного иллюстрируется простым примером. Если проекты (программы) Г.Лейбница и Д.Гильберта реализуемы, то тогда можно обосновать вывод о способности человека посетить Луну чисто дедуктивно, при помощи механических манипуляций с абстрактными символами, относящимися к определенной формальной системе. Однако в действительности этот вывод удалось обосновать только в результате серии пилотируемых космических полетов общей стоимостью более 22 миллиардов долларов. Индуктивный вывод был обоснован экспериментами стоимостью 22 миллиарда долларов, а не дедуктивными средствами формальных систем.

Вероятностная природа индуктивного вывода

Помимо того, что любой индуктивный вывод обладает определенной энтропией, связанной с затратами энергии на его получение, он также обладает еще одним свойством, имеющим важное значение. Это свойство - неопределенность (вероятность). Близкие слова - синонимы: стохастичность, случайность, неалгоритмичность. Обсуждая различия между полной и неполной индукцией, мы говорили, что при использовании полной индукции изучаются все элементы множества, о котором делается обобщающий вывод. В этом случае исходные посылки (информация об изученных элементах множества) однозначно предопределяют финальное умозаключение, и это умозаключение, как правило, оказывается верным. Однако ситуация существенно меняется при использовании неполной индукции. В этом случае исследуется лишь часть элементов множества, а полученная информация не гарантирует правильность (истинность) финального умозаключения. Неполная индукция «обещает» не истину, а ее вероятность. В этом состоит основное обстоятельство, позволяющее говорить о вероятностной природе индукции. Как поясняют специалисты, с этим обстоятельством впервые столкнулся Аристотель, один из основателей современной науки.

После того, как Аристотель построил теорию дедуктивных рассуждений (силлогистику), он задался целью разработать аналогичную теорию для индуктивных рассуждений. Ему казалось, что достоверность индуктивных выводов легко достигается достоверностью исходных посылок (как в случае дедукции). Однако здесь нужно было учитывать еще один фактор, определяющий справедливость индуктивных умозаключений, - количество исходных посылок (о чем мы рассказали выше). Чтобы избежать ошибочных выводов, нужно рассматривать все элементы системы, а не отдельную их часть. Но эта задача осложняется тем, что многие системы состоят из колоссального числа элементов, следовательно, нам требуется значительное время и значительные материальные ресурсы для изучения всех этих элементов. В результате Аристотель потерпел неудачу в построении теории индуктивных силлогизмов.

Д.А.Поспелов в книге «Моделирование рассуждений» [39] пишет об Аристотеле: «Увлеченный красотой и стройностью воздвигнутого им здания силлогистики, он попытался втиснуть в его объемы и индуктивное рассуждение, ввести схему индуктивного силлогизма. Но здесь его подстерегала неудача. Индуктивные рассуждения никак не хотели отливаться в ту стройную форму, которая так подошла дедуктивным рассуждениям» [39, с.87].

Вероятностная природа индуктивного вывода была также известна Г.Лейбницу. Тот факт, что мы часто используем неполную индукцию, которая может приводить к ошибкам, явился одной из причин, заставивших немецкого математика приступить к разработке проекта «универсальной характеристики» (универсального алгоритма, в самом себе содержащего критерии истинности). Г.Г.Майоров в предисловии к 3 -му тому «Собрания сочинений» Г.Лейбница [40] раскрывает его позицию относительно возможностей индуктивного метода: «В общем случае индукция всегда неполна, и ее выводы не имеют силы необходимости, они могут создавать лишь большую или меньшую уверенность в том, что и впредь всегда будет так, как было, т.е. могут обладать только «моральной достоверностью»; этого недостаточно для теоретических, аподиктических наук» [40, с.14].

Приведем один из примеров использования неполной индукции. Выше мы констатировали, что в 1929 г. Э.Хаббл опубликовал статью «Связь между расстоянием и лучевой скоростью внегалактических туманностей». В этой статье он сообщил, что определил лучевые скорости 18 -ти галактик, а также расстояние до этих 18-ти галактик. После сравнения скоростей и расстояний для указанных галактик он пришел к выводу, что скорость их взаимного удаления прямо пропорциональна их расстоянию друг от друга. Это была первая формулировка эмпирической зависимости, позже названной «законом Хаббла». Следовательно, американский астроном открыл «закон Хаббла», индуктивно базируясь на изучении лишь 18-ти галактик. А сколько всего галактик существует в наблюдаемой нами Вселенной? В 2021 г. космический аппарат «Новые горизонты» позволил установить, что число галактик во Вселенной составляет 200-300 миллиардов. Разделите 300 миллиардов на 18, и вы получите примерную оценку степени неполноты индукции, которую использовал Э.Хаббл в 1929 г.

Теперь обсудим вопрос о том, можно ли точно определить вероятность того или иного индуктивного вывода. Начнем с исследований выдающегося французского математика и механика Пьера Лапласа (1749 -1827). Согласившись с тем, что индукция гарантирует вероятность истины, П.Лаплас предположил, что эту вероятность можно описать математически, а именно с помощью разработанных к тому времени средств математической теории вероятностей. Свой подход он изложил в трактате «Опыт философии теории вероятностей» (1814). В конце концов, после многочисленных попыток, П.Лаплас вынужден был констатировать: «Трудно оценить вероятность результатов индукции» [41, с.338]. Аналогичные попытки предпринимал его соотечественник Николя де Кондорсе (1743-1794), который также не достиг успеха.

По существу, причиной этих неудач являются те же обстоятельства, которые помешали Аристотелю создать эффективную теорию индуктивных силлогизмов. Многие природные системы состоят из колоссального (иногда бесконечного) числа элементов. Чтобы изучить каждый из этих элементов, нужно обладать колоссальным временем и колоссальными материальными ресурсами. Степень истинности индукции зависит от количеств а рассмотренных элементов (A), поэтому для определения этой степени истинности нужно заранее и точно знать количество всех элементов изучаемой системы (B). Деление A на B даст нам величину, характеризующую достоверность индуктивного умозаключения. Однако в большинстве случаев мы не можем знать заранее число элементов той или иной системы. Например, в 1929 г. Э.Хаббл, изучив лучевые скорости 18-ти галактик, не знал, что общее их число составляет 200-300 миллиардов. Эти данные появились лишь в 2021 г. (спустя почти сто лет). Поэтому наши попытки математически точно выразить вероятность индукции оказываются безрезультатными («повисают в воздухе»).

Оценивая эту ситуацию, британский математик, логик и философ Бертран Рассел пишет: «Со времен Лапласа делались различные попытки показать, что вероятная истинность индуктивного вывода вытекает из математической теории вероятности. Теперь всеми признается, что все эти попытки были безуспешными...» [42, с.352]. «Во-первых, - продолжает автор, - в математической теории вероятности нет ничего, что оправдывало бы наше понимание как общей, так и частной индукции как вероятной, как бы при этом ни было велико установленное число благоприятных случаев» [42, с.361].

Об этом же говорит Д.Пойа в книге «Математика и правдоподобные рассуждения» [41]: «Никто еще не предложил ясного и убедительного метода вычисления правдоподобностей в нетривиальных случаях, и если мы ясно себе представим конкретные ситуации, в которых важна правильная оценка правдоподобностей, то мы легко сможем понять, что любое приписывание правдоподобностям определенных числовых значений подвергается большой опасности показаться глупым» [41, с.368].

Мы могли бы назвать эту ситуацию «катастрофой» или, по крайней мере, большой неприятностью. Мало того, что индукция имеет вероятностную природу, так она (вероятность индуктивного вывода) еще и не поддается вычислению. Иначе говоря, стохастичность (неопределенность) индукции дополняется невозможностью численно определить эту неопределенность. Однако, учитывая огромное количество научных открытий, сделанных при помощи неполной индукции, т.е. учитывая высокую продуктивность индуктивных методов обработки информации, воздержимся от того, чтобы именовать указанную ситуацию «катастрофой». На самом деле (в глобальном смысле), катастрофой оказалось бы такое устройство мира, в котором нам была бы доступна лишь дедукция, а индукции физически не существовало. В этом случае не существовало бы и таких вещей, как наука и научное познание.

Существует ли какая-либо связь между вероятностной природой индуктивного вывода и его энтропией? Да, существует. Индуктивный метод «придуман» людьми (вспомним Ф.Бэкона), чтобы исследовать окружающий мир, раскрывать тайны природы. Этот метод предполагает постепенное накопление единичных фактов и их обобщение. Некоторые из этих обобщений оказываются ошибочными, так как чаще всего мы используем неполную индукцию, основанную на ограниченном (фрагментарном) эмпирическом материале. Неполная (вероятностная) индукция составляет основное орудие наших научных поисков ввиду того, что многие изучаемые нами природные системы состоят из бесконечного числа элементов, а мы не располагаем материальными ресурсами, необходимыми для исчерпывающего анализа этих элементов. Наши индуктивные выводы ограничены теми затратами энергии и вещества, которые мы можем себе позволить в определенный период времени (на определенном этапе развития науки и техники). Следовательно, наши индуктивные обобщения - результат вполне определенных энергетических расходов и связанной с ними величины энтропии. В этом и заключается связь между вероятностью индуктивного умозаключения и его энтропией. За каждое продвижение вперед в сфере науки нужно платить энергией и энтропией. Можно сказать, что здесь действует теорема о том, что «бесплатных обедов не бывает» (в области машинного обучения есть аналогичная теорема, но в ней не рассматривается вопрос об энергетической стоимости исходных посылок индуктивного вывода).

Аргументы Р.Пенроуза о «невычислимости» творческого мышления

В 1989 г. английский физик и математик Роджер Пенроуз опубликовал книгу «Новый ум короля», которая впервые издана на русском языке в 2003 г. [43]. В данной книге Р.Пенроуз рассмотрел основные принципы, которыми руководствуются специалисты, разрабатывающие вычислительные машины и преследующие цель создать искусственный интеллект. Эти принципы он сопоставил с тем, что нам известно относительно особенностей (закономерностей) человеческого творчества. Р.Пенроуз задался вопросом: возможно ли описать алгоритмом (детерминированным вычислительным процессом) творческую деятельность человека, в ходе которой он создает нечто новое и общественно значимое: научные открытия, технические изобретения и т.д.? Ученый ответил на этот вопрос отрицательно. Далее он поставил вопрос: может ли искусственный интеллект, действующий в рамках программы, в которой нет ничего, кроме детерминированных алгоритмов, сравняться с человеком или превзойти его в своих мыслительных (познавательных) способностях? На этот вопрос он также ответил отрицательно. Как ни удивительно, для формулировки этих ответов ему хватило двух математических результатов: теоремы Геделя о неполноте и теоремы Тьюринга о неразрешимости проблемы остановки. Какая связь может существовать между этими теоремами и разработками в области искусственного интеллекта? Оказывается, самая непосредственная!

Когда ученые создавали первые вычислительные машины, они пришли к выводу, что лучший способ достичь цели - заложить в «мозг» машины программу, которая представляла бы собой набор четких инструкций, совокупность недвусмысленных правил, определяющих порядок обработки информации в ходе решения той или иной задачи. Наибольшее распространение получили вычислительные машины, чье программное обеспечение можно назвать «дедуктивным». В этих компьютерах инструкции (команды) соответствуют фиксированным правилам вывода некоторой формализованной аксиоматической процедуры. Другими словами, программа этих компьютеров - некая формальная, аксиоматико-дедуктивная система, способ построения которой глубоко изучали Д.Гильберт и представители его математической школы.

Анализируя возможности этих дедуктивных вычислительных машин, Р.Пенроуз пришел к совершенно правильному выводу, что они (эти возможности) ограничены так же, как и сами формальные системы, олицетворяющие стремление своих создателей превратить творческий поиск в «механический процесс». Аналогия между формальными системами (которые изучались сторонниками Д.Гильберта) и дедуктивными компьютерными программами привела Р.Пенроуза к достаточно простой мысли. Коль скоро теорема Геделя о неполноте и теорема Тьюринга о неразрешимости проблемы остановки показали неосуществимость программы формализации математики, предложенной Д.Гильбертом, те же математические результаты демонстрируют «ущербность» дедуктивных вычислительных машин, их неспособность вести полноценный творческий поиск.

Кроме того, Р.Пенроуз установил эквивалентность формальных систем и детерминированных алгоритмов. На высоком уровне математической строгости он показал, что для случая достаточно богатой формальной системы Ф мы имеем простое соотношение: алгоритм Т ^ правила формальной системы Ф. Детальное изложение схемы рассуждений, использованных Р.Пенроузом при определении этой эквивалентности, можно найти в [44]. Указанная эквивалентность стала «плацдармом», используя который Р.Пенроуз постулировал, что творческое мышление человека нельзя описать как реализацию детерминированных алгоритмов, а деятельность машин, основу программ которых составляют те же алгоритмы (формальные системы), - как «разумную» деятельность.

Науке повезло в том, что Р.Пенроуз - хороший математик. Занимаясь проблемами искусственного интеллекта, Р.Пенроуз обратил внимание на то, что эффективный алгоритм - это алгоритм, основанный на рекурсивных функциях. Ученый также знал, что рекурсивные функции являются стержнем теории вычислимости: объект, который можно представить в виде рекурсивных функций, может быть легко вычислен. Отсюда он сделал вывод, с которым трудно поспорить: поскольку творческое мышление не описывается детерминированными алгоритмами (рекурсивными функциями), то оно является «невычислимым».

18-я проблема С.Смейла и ее решение

В 1997 г. американский математик Стивен Смейл (род. 1930 г.) выступил в Филдсовском институте (Торонто) с лекцией «Математические проблемы следующего столетия» [45]. В данной лекции он представил свой список нерешенных математических проблем. Последняя, восемнадцатая, проблема в этом списке звучит следующим образом: каковы пределы интеллекта - как искусственного, так и человека? Поясняя свою 18-ю проблему о пределах интеллекта, он говорит: «Пенроуз пытается привести некоторые ограничения для искусственного интеллекта. Фигурирующий в его доказательстве интересный вопрос - это неразрешимость множества Мандельброта и выводы из теоремы Геделя о неполноте. Однако необходимо более широкое изучение, которое включало бы более глубокие модели разума, а также компьютера...» [45, с.297].

Текст лекции С.Смейла [45] свидетельствует о том, что он ознакомился с книгой Р.Пенроуза «Новый ум короля» [43] и серьезно воспринял его аргументы относительно того, что теоремы Геделя и Тьюринга - реальные факторы, ограничивающие формализацию человеческого творчества. Эти же теоремы показывают, что одних детерминированных алгоритмов (формальных систем) недостаточно для того, чтобы искусственный интеллект приблизился по своим возможностям к человеческому разуму. Однако С.Смейл уверен, что могут существовать и другие факторы, запрещающие полную формализацию (алгоритмизацию) человеческого творчества и искусственного интеллекта. Поэтому американский математик и поставил вопрос: каковы пределы интеллекта - как искусственного, так и человека?

Разумеется, речь идет о пределах алгоритмизации (формализации) интеллекта. Этими пределами должны быть факторы научного творчества, которые препятствуют превращению творческого поиска в «механический процесс» манипулирования строгими (формальными, детерминированными) алгоритмами. Р.Пенроуз описал два указанных фактора: теорему Геделя о неполноте и теорему Тьюринга о неразрешимости проблемы остановки.

В чем состоят другие факторы, которые объективно препятствуют формализации научной деятельности и научного мышления? Ответ подсказывается материалами и аргументами, рассмотренными выше: одним из этих факторов является мыслительная операция индукция! Иначе говоря, индуктивная стратегия обработки информации! Именно она имеет полное право встать в один ряд с такими результатами, как теорема Геделя о неполноте и теорема Тьюринга о неразрешимости проблемы остановки. А поскольку «поставщиком» новой научной информации для индуктивных обобщений является «древний» метод проб и ошибок, не относящийся к числу строгих алгоритмов, этот метод также должен находиться в одном ряду с результатами Геделя и Тьюринга.

Но индукция является более фундаментальным фактором, препятствующим полной формализации интеллектуальной деятельности. Запреты, налагаемые теоремами Геделя и Тьюринга, снимаются, когда мы переходим от замкнутых формальных систем к открытым системам, способным черпать информацию из внешнего мира [46]. Что касается индукции, то она сохраняет свою вероятностную природу, даже если используется в ситуации постоянного извлечения необходимых сведений из внешнего мира. Вероятностная природа индукции - результат ограниченности наших материальных ресурсов, не позволяющих нам осуществлять исчерпывающий анализ множеств, состоящих из бесконечного числа элементов. Она - результат того, что производство любой информации, необходимой для формулировки новых индуктивных идей, связано с затратами энергии и энтропии. Это цена, которую нужно платить в процессе исследований, но на каждом этапе развития науки наши возможности нести энергетические и «энтропийные» расходы вполне фиксированы (они не могут быть бесконечными). Эти расходы не могут быть бесконечными и у искусственного интеллекта, ввиду чего ему не избежать постоянного использования неполной, вероятностной индукции (если однажды он освоит этот метод обработки исходных данных).

Литература

1. Седов Е.А. Одна формула и весь мир. - М.: «Знание», 1982. - 176 с.

2. Tribus M. Information theory as the basic for thermostatics and thermodynamics // Journal of Applied Mechanics. - 1961. - Vol.28 (3). - P.1-8.

3. Мартюшев Л.М. Принцип максимума производства энтропии: история возникновения и современное состояние // Успехи физических наук. 2021. - Том 191. - № 6. - С.586-613.

4. Фрадков А.Л., Шалымов Д.С. Законы эволюции нестационарных процессов, подчиняющихся принципу максимума энтропии // Труды СПИИРАН. - 2014. - № 3 (34). - С.14-32.

5. Баарс Б., Гейдж Н. Мозг, познание, разум: введение в когнитивные нейронауки. Том 2. - М.: «Бином. Лаборатория знаний», 2014. - 465 с.

6. Савельев С.В. Происхождение мозга. - М.: изд-во «Веди», 2005. - 368 с.

7. Самохина Е. «Прожигатель» энергии // Наука и жизнь. - 2017. - № 4. С.22-25.

8. Филдз Д. Как сохранить воспоминания // В мире науки. - 2005. - № 5. С.61-68.

9. Кокурина Е.В. Зеркало для мозга // В мире науки. - 2008. - № 5. - С.6873.

10. Лейн Э., Хоурилиз М. Генетическая карта мозга // В мире науки. - 2014. - № 6. - С.32-39.

11. Маркина Н. Маршруты на карте мозга // Химия и жизнь. - 2004. - № 9. - С.6-11.

12. Ивашкина О.И., Торопова К.А., Рощина М.А., Анохин К.В. Формирование и извлечение ассоциативной памяти на комплексный сигнал у мышей: специфическое участие нейронов области CA1 гиппокампа // Журнал высшей нервной деятельности. - 2020. - Том 70. - № 3. - С.326-340.

13. Балабан П.М. Молекулярные механизмы модификации памяти // Журнал высшей нервной деятельности. - 2017. - Том 67. - № 2. - С.131-140.

14. Бородинова А.А., Зюзина Я.Б., Балабан П.М. Роль атипичных протеинкиназ в поддержании долговременной памяти и синаптической пластичности // Биохимия. - 2017. - Том 82. - № 3. - С.372-388.

15. Гринкевич Л.Н. Роль микроРНК в обучении и долговременной памяти // Вавиловский журнал генетики и селекции. - 2020. - Том 24. - № 8. - С.885-896.

16. Maguire E.A., Gadian D.C., Jahnsrude I.S. [...] Frith C.D. Navigation - related structural change in the hippocampi of taxi drivers // PNAS. - 2000. - Vol.97 (8). - P.4398-4403.

17. Голубовский М.Д. История науки и некоторые парадигмы молекулярной биологии и генетики // Биополимеры и клетка. - 1996. - Том 12. № 1. - С.29-41.

18. Голубовский М.Д. Нестабильность генов и мобильные элементы: к истории изучения и открытия // Историко-биологические исследования. - 2011. - Том 3. - № 4. - С.60-78.

19. Мустафин Р.Н., Хуснутдинова Э.К. Участие мобильных элементов в нейрогенезе // Вавиловский журнал генетики и селекции. - 2020. - Том 24. - № 2. - С.209-218.

20. Энгельгардт М.А. Чарльз Дарвин. Его жизнь и научная деятельность. Санкт-Петербург: типография газеты «Новости», 1891. - 91 с.

21. Лункевич В.В. От Гераклита до Дарвина. Том 2. - М.: «Учпедгиз», 1960. - 548 с.

22. Ирвин У. Обезьяны, ангелы и викторианцы. Дарвин, Гексли и эволюция. - М.: «Молодая гвардия», 1973. - 464 с.

23. Дарвин Ч. Воспоминания о развитии моего ума и характера // Дарвин Ч. Сочинения. Том 9. - М.: изд-во АН СССР, 1959. - С.166-242.

24. Резник С. Раскрывшаяся тайна бытия. - М.: «Знание», 1976. - 160 с.

25. Сойфер В.Н. Чарльз Дарвин и эволюционная теория // Наука из первых рук. - 2010. - № 4 (34). - С.86-101.

26. Циммер К. Эволюция: триумф идеи. - М.: «Альпина нон-фикшн», 2011. - 561 с.

27. Миллер Дж. Соблазняющий разум. Как выбор сексуального партнера повлиял на эволюцию человеческой природы. - М.: изд-во «CORPUS», 2020. 736 с.

28. Шаров А.С., Новиков И.Д. Человек, открывший взрыв Вселенной. Жизнь и труд Эдвина Хаббла. - М.: «Наука», 1989. - 208 с.

29. Еремеева А.И., Цицин Ф.А. История астрономии. - М.: изд-во МГУ, 1989. - 349 с.

30. Хеллер М., Чернин А. У истоков космологии: Фридман и Леметр. - М.: «Знание», 1991. - 64 с.

31. Козенко А.В. Артур Стенли Эддингтон. - М.: «Наука», 1997. - 144 с.

32. Вайнберг С. Первые три минуты: современный взгляд на происхождение Вселенной. - Ижевск: НИЦ «Регулярная и хаотическая динамика», 2000. - 272 с.

33. Шмидт Б.П. Ускоренное расширение Вселенной по наблюдениям далеких сверхновых (Нобелевская лекция) // Успехи физических наук. - 2013. Том 183. - № 10. - С.1078-1089.

34. Поплавский Р.П. Демон Максвелла и соотношения между информацией и энтропией // Успехи физических наук. - 1979. - Том 128. - № - С.165-176.

35. Френкель В.Я., Явелов Б.Е. Эйнштейн: изобретения и эксперимент. М.: «Наука», 1990. - 239 с.

36. Kirkaldy J.S. Thermodynamics of the human brain // Biophysical Journal. 1965. - Vol.5 (6). - P.981-986.

37. Азимов А. Путеводитель по науке. От египетских пирамид до космических станций. - М.: «Центрполиграф», 2006. - 788 с.

38. Бурбаки Н. Очерки по истории математики. - М.: «КомКнига», 2007. 296 с.

39. Поспелов Д.А. Моделирование рассуждений. Опыт анализа мыслительных актов. - М.: изд-во «Радио и связь», 1989. - 184 с.

40. Майоров Г.Г. Лейбниц как философ науки // Лейбниц Г. Сочинения в четырех томах. Том 3. - М.: изд-во «Мысль», 1984. - С.3-40.

41. Пойа Д. Математика и правдоподобные рассуждения. - М.: «Наука», 1975. - 464 с.

42. Рассел Б. Человеческое познание: его сфера и границы. - М.: «Республика», 2000. - 464 с.

43. Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики. - М.: Едиториал УРСС, 2003. - 384 с.

44. Ершов Ю.Л., Целищев В.В. Алгоритмы и вычислимость в человеческом познании. - Новосибирск: изд-во СО РАН, 2012. - 504 с.

45. Смейл С. Математические проблемы следующего столетия // сборник «Современные проблемы хаоса и нелинейности». - Ижевск: Институт компьютерных исследований, 2002. - С.280-303.

46. Глушков В.М. Развитие абстрактного мышления и запрет Геделя // Глушков В.М. Кибернетика. Вопросы теории и практики. - М.: «Наука», 1986. - С.133-143.

Размещено на Allbest.ru