oleg_butenko (oleg_butenko) wrote,
oleg_butenko
oleg_butenko

Categories:

Джимми Сони, Роб Гудмэн. Игра разума: как Клод Шеннон изобрел информационный век

Jimmy Soni and Rob Goodman. A Mind at Play: How Claude Shannon Invented the Information Age

Книга о Клоде Шенноне (1916-2001), отце теории информации. При жизни его сравнивали с Эйнштейном, но после смерти начали забывать. Сейчас он превратился в призрачную фигуру из 40-х, возможно 60-х годов, известную только специалистам. Почему? Во-первых, сделанные им открытия давно встроены в современные гаджеты и воспринимаются как нечто обыденные, во-вторых, теория информации в середине ХХ века оказалась слишком переоцененной.

На первый взгляд Шеннон был типичным американским профессором, прожившим скучную, долгую и красивую жизнь. И даже некоторые его чудачества, скажем, изобретенные им гаджет для выигрывания в рулетку и жонглирующий робот, воспринимаются как бегство от скуки. Может ли его биография нас чему-либо научить сегодня? Я думаю, что может.

Для меня имя Шеннона связано в первую очередь вот с чем:



Красота этой схемы в универсальности: ее можно применять как для анализа повседневного общения, так и для сообщений в линиях связи, сообщений в нейронах, сообщений в крови.

Как утверждают авторы, до Шеннона информация была телеграммой, фотографией, параграфом, песней. Но Шеннон разложил (abstracted) ее на биты.

Шеннон работал в Bell Labs, которую в США называли «фабрикой идей». История этой конторы – доказательство тезиса, что любую технологическую проблему можно решить, если на ее решение вбухнуть неограниченное количество ресурсов, финансовых и человеческих. Вспомним, что удалось Bell Labs: изобрести факс, тональный набор номера, дальнюю связь по проводным линиям, солнечную батарею, синхронизировать звук и картинку в кино, улучшить радар, сонар, базуку, разработки Bell Labs позволили безопасно общаться по телефону Рузвельту и Черчиллю, и самое главное – они изобрели транзистор.



Первый транзистор из Bell Labs, 1947

Шеннон любил «Алису в стране чудес» Кэрролла, но не просто так: он собрал 160 версий сказки на 42 языках и написал специальную работу о том, как перевод влияет на семантику сказки.

Вэнивар Буш, учитель Шеннона, решил провести такой эксперимент: явно одаренного молодого человека направить в совершенно незнакомую ему область знаний, в генетику. А вдруг он сможет взглянуть свежими молодыми глазами на застарелые проблемы в перспективной отрасли? Шеннон действительно написал работу «Алгебра теоретической генетики», но она не была своевременно издана и, по всей видимости, содержала мало интересного. Из этого вывод: каждый должен заниматься своим делом.

Метод Шеннона описывают так: к Шеннону обратился один коллега с какой-то нерешенной проблемой. Подумав, Шеннон спросил: «Хорошо, вам действительно нужно это предположение?» Тот ответил: «Ладно, я думаю, мы можем взглянуть на проблему без этого предположения». «Так, а вот это, другое предположение вам тоже нужно?» «Нет, не нужно» и т.д. В результате, отбросив 5-6 ненужных предположений, им просто удалось понять, какие части проблемы являются фундаментальными, а какие нет. И это позволило решить проблему.

Другими словами, метод Шеннона – это метод Микеланджело: «Я беру камень и отсекаю всё лишнее». (На самом деле это сказал Плотин, но какая разница?)

Накануне войны антисемитизм в США был настолько суров, что гостиница в Нью-Гемпшире отказала ему и его жене в ночлеге: его жена была еврейкой, а Шеннон был похож на еврея – 1940 год.

Представим монетку с двумя аверсами. Даст ли нам подбрасывание такой монетки какую-либо информацию? Шеннон отвечал: нет. Потому что такое подбрасывание ничего не добавляет к нашему знанию, оно не выводит из неопределенности.

Важные цитаты:

Коммуникация – это война против шума.

Информация измеряет свободу выбора.

Там, где есть совершенная определенность, там нет информации.

Информация стохастична. Она не бывает ни полностью непредсказуемой, ни полностью предопределенной.

Язык крайне предсказуем, до скуки. Скажем, в этой книге 6431 сочетание “th”, и всего 1 сочетание “tk”, только в этом случае.

Некоторые самые детские вопросы в действительности наиболее научно продуктивны: скажем: почему яблоки не падают вверх?

Коммуникация всегда избыточна; коммуницировать – означает становиться предсказуемым.

«Когда мы пишем по-английски, то половина того, что мы пишем, предопределена структурой языка, и вторая половина выбирается свободно». Впоследствии Шеннон пришел к выводу, что только каждый пятый символ несет какую-то информацию.

Логика дигитальна. Информация дигитальна.

И, разумеется, Шеннон считал человека машиной. И со временем росла его уверенность в том, что искусственный интеллект сможет превзойти человеческий разум. Сейчас, похоже, этот вопрос разрешен: машины уже превзошли человеческий разум.



Tags: Новое Средневековье, США, артефакт, личности, прочитано мной
Subscribe

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 3 comments