Физик

Физик, ты прирожденный провокатор! Только собрался я домой пойти...

В моем понимании информация - одно из самых загадочных понятий. Нет закона ее сохранения: в одной книге столько же информации как и во всем тираже. Делясь информацией - не становишся глупее. Мне кажется, что количество информации во Вселенной есть константа. Другое дело, какую часть ее мы познали. У меня есть знакомый преподаватель на "родной кафедре" - Выч. Машины Одесского Политеха, которому Ак. Глушков советовал как можно реже использовать понятие "информация", максимально заменяя его словом "данные".

Артур

Артур -
количество информации во вселенной - константа? Красиво. Но неправдоподобно. Фатализм получается. Я достаю из широких штанин... ну хотя бы монетку в 50 лир. И подбрасываю. Монетка падает и в мире появляется один бит информации. Этот бит создал я усилием своей свободной воли (такое философское понятие). Если допустить, что этот бит уже был где-то записан, получается, что все что я сделаю в будущем, может быть известно из моего ДНК, расположения звезд на небе, и тому подобных факторов (включая и твой ДНК, раз я тебе отвечаю и создаю, хочется верить, какую-то информацию). Может, оно все и предопределено. Только тут мы переходим из области информатики в область веры. Я - не верю.

Итальянец

Итальянец
Значит ли это, что количество информации в мире постоянно растет? А не может ли какая-нибудь информация для равновесия куда-нибудь исчезать?

Ежинька

Итальянец, монетка не рождает ни одного бита Новой информации! Есть пример: любой поток случайных событий может генерить информацию, хоть пляска комаров в луче света. Можно представит себе альбом с картинками 100000х100000 черных и белых точек. В принципе там можно найти все портреты всех дискутирующих здессь в любые моменты их жизни. Главная задача - убрать шум! И в этом вся проблема!

Артур

Итальянец,
от того, что вы подбросили монетку, количество информации в мире не увеличилось и не уменьшилось - до тех пор, пока кому-нибудь не понадобится узнать как она у вас упала. Никакой информации в мире нет - она есть только тогда, когда кому-нибудь что-нибудь с ней понадобилось сделать. И только для этого "кого-нибудь" она информация. А для остальных - так, колебания воздуха, испачканая краской бумага или валяющаяся под ногами монетка. У Лема, в путешествиях Трурля и Клапауция про это очень хорошо написано.

Зануда.

Итальянец,
по поводу информации Артур и Зануда правы ("мають рацiю", как сказал бы В-из-Т), Мой вопрос Badman'у был отчасти провокационным (ну так Артур меня раскусил уже как провокатора). Любое действие приводит в принципе не к увеличению, а к уменьшению информации. Лет 100 назад, в пик развития термодинамики, даже считалось, что это приведет к тепловой смерти Вселенной из-за возрастания энтропии. И только когда было показано, что этот закон термодинамики справедлив лишь для конечной системы, публика вздохнула посвободнее (Вселенная в каком-то смысле бесконечна)

Поясню на примере. Представь двух шахматистов до начала партии. У них множество вариантов игры. Это тьма информации (не в смысле 10,000 а образно). Каждый из сделанных ходов только уменьшает число оставшихся возможностей, т.е. уменьшает информацию. До того, как ты подбросил монетку у тебя было 2 бита информации: орел или решка (ребро не рассматриваем). После того, как ты ее бросил -- остался один. Повторяю, это очень упрощенно, просто для наглядности. Так что и в одной точке, в момент Большого Взрыва могла быть заложена вся возможная информация, вплоть до этого нашего базара на anekdot.ru ! В качестве потенциальных возможностей, не противоречащих законам этого мира. Это не имеет ничего общего с предопределеностью, т.к. информация о нереализованных возможностях -- тоже информация.

Физик

Зануда. Я тут вспомнил, что у Лема есть замечательный рассказ «Доктор Донда», где дается исключительно интересная трактовка о взаимодействии информации и материи. Мысль богатейшая: информация (любая - осмысленная или бессмысленная) будучи накопленная в огромных количествах до определенной концентрации исчезает, становясь, материей - порождая новую вселенную! Вот откуда в момент создания Вся информация в ней и берется! Повторяю - это фантастический рассказ.

Артур

Артур, Итальянец
по поводу природы информации - вопрос запутаный. Но вот как раз рассмотренная Лемом в "Профессоре Донде" мировая катастрофа (и она же в "Мир на Земле" и "Фиаско" - только в более нудной форме) меня не убеждает. Либо Лем чего-то не понимает, либо все понимает и тихо издевается.

Поскольку никакого преобразования информации в материю быть не может. Ибо информация есть не что иное, как интерпретируемые определенным образом состояния материи. То есть в мире как таковом никакой информации нет, пока не появится интерпретирующий ее (который, конечно, тоже часть мира). Или, проще говоря, информация есть только тогда, когда есть мимнимум двое, желающие что-то друг другу сказать. И они, путем каких-нибудь возмущений материи, одинаково ими интерпретируемых, это друг другу говорят. А для того, кто интерпретации не знает это уже не информация, а шум. Пока за компьютер не сел пользователь - информации в нем нет. Есть состояния p-n переходов, накопление зарядов, движение электронов, области намагниченности и т.п.

В свете этого как-то странно говорить о "накоплении информации", "общем количестве информации во вселенной равном константе", "превращении информации в материю" и проч.

Зануда

Зануде об информации!
Классно! Ты - Фрейд выражающий мои сокровенные мысли! Если так то тогда все понятно. Информация теряется просто потому, что любой носитель информации стареет и разрушается... Спор о Бабе Яге останется невыясненным....

Я

Я, Зануда
(послушай, мосье виртуальный персонаж под ником "Я", может подумаешь о смене подписи? или хотя бы легкой ее модификации, скажем "Я!" или "I" ? А то периодически случаются двусмысленности, как например в этом обращении)

По поводу информации.
Мое мнение -- как физика, а не спеца -- заключается кратко в том, что информация отражает ни что иное, как число степеней свободы системы (то есть число различных возможных состояний зтой системы). В этом смысле она объективна, не зависит от (и не требует наличия) интерпретатора и может быть утеряна (или преобразована в другой тип информации). Все зависит от свойств системы, которую мы рассматриваем.
Пример 1. Весы из задачи о монетах. Три степени свободы = 3 бита информации (< = >)
Пример 2. Замкнутая термодинамическая система в неравновесном состоянии. Может нести в себе тьму информации.
Однако с течением времени эта система обязательно придет в равновесное состояние с максимальной энтропией и нулевой информацией.

О Бабе Яге. Количество информации о ней пропорционально интенсивности ее взаимодействия с окружающей средой. Если она полностью изолирована от системы, то в этой системе информации о ней нет (БЯ не влияет на число степеней свободы системы) Если она успела слопать 2-3 десятка добрых молодцев, то это довольно сильно "потрясло" систему и память о ней (информация) сохраняется до тех пор, пока это локальное потрясение порлностью не "рассосется". На физико-математическом языке это можно понять так, что информация о БЯ будет потеряна тогда, когда система из состояния А(с активной БЯ) перейдет в состояние В(без БЯ) причем такое, что траектория АВ не единственна. (Траектория разумеется в о-о-чень многомерном пространстве-времени-людских_судеб...) То есть если в состояние В можно попасть независимо от существования или не существования БЯ, то в этой точке информация о БЯ = 0.

Вот и все дела. Достаточно я вам мозги заплел?

Физик

Ой, Физик, а в весах - одна степень свободы... А если, скажем, шкалу нарисовать, - так и больше информации получить можно. И потом, <, > и = - это 2 бита, а не 3. Точнее, 1.5.

Max. Занудливый я сегодня.

Физик,
Я где-то тоже физик (по образованию и диплому, по меньшей мере). Так вот. Полностью согласен с приведенным определением информации, считая, что ключевая фраза там - "которую мы рассматриваем".

Если рассматривать с точки зрения статистической, то чем равновесное состояние отличается от любого другого? Тем более, что в нем непрерывно происходят спонтанные нарушения равновесия. Вроде и Большой взрыв от них произошел, от спонтанных нарушений, то есть. И тепловая смерть именно поэтому нам и не грозит :-)

Для иллюстрации того, что я имею в виду:
если бросить яйцом об пол, получится яичница. Если бросить яичницой об пол - яйцо не получится. Налицо явное возрастание энтропии, уменьшение степеней свободы и потеря информации. Так? По-моему, не совсем. Поскольку, если кинуть яичницу об пол - то опять получится яичница, но не та, которую перед этим подняли с пола. Если рассмотреть яйцо как один из видов яичницы, никак не выделяя его среди остальных, то сколько не кидай - все едино, каждый раз другая яичница. А выделение яйца из прочих яичниц - это некоторым образом наш произвол. Ну и что, что из яйца цыплята бывают, а из яичницы - нет. Зато у какой-то разновидности яичницы желток смещен строго на 20 мм влево на север от центра тяжести, а у остальных - и у яйца в том числе - нет. То есть степени свободы - понятие не "объективное". Смотря какой свободы. Механической, термодинамической, электромагнитной... (молчу уж про химическую, биологическую - цыпленка, например, и проч.) Какой понадобится - ту и будем рассматривать.

Зануда

Об информации. Монеты описываются только 2 битами. Настоящая-фальшивая, Легче-тяжелее. Я исхожу не их термодинамики, а из теории вероятностей. Информация как раз уменьшает число возможных состояний системы. Те как бы отбирает степени свободы. Например в задачах с монетами мы строили каждое последующее действие с использованием информации предыдущего. Любое слово Если, как раз и говорит об использовании такой дополнительной информации. На использовании такой дополнительной информации ка раз и строится парадокс приговоренного к смерти (например). Это когда судья сказал, что его повесят утром в течение недели, но он до последнего утра не будет знать в какой именно день его повесят.

Система в неравновесном состоянии несет в себе информацию, конечно о самой себе (А может также и о том как она в нее попала!) Но помимо этого ее можно наделить дополнительной информацией. (Что-то типа 32 утюгов на подоконнике) . Как гестаповцам узнать из расположения утюгов, что явка провалена? Тоже самое и про ряд других случаев. Сохранилась ли КРНКРЕТНАЯ информация о том откуда взялась Баба Яга? Если да, то мы можем ее найти. Если нет, то информация теряется.

Я - объявивший конкурс на свой новый ник.

Не совсем уверенным голосом:
В одной книжонке было, кажется, написано - "Информацией мы можем называть только то, что передается". Например, если пра*n дедушка говорил кому-то, как его зовут, то это была информация. А когда мы через 10 веков не знаем этого, значит у нас нет информации. То есть, как бы, тяжело говорить существует информация или нет. Она, как бы, существует только в момент передачи. Это, конечно, одна из многих концепций.

Акела (NN)

Акеле
Так можем мы узнать ответ о Ежинькином предке или нет?
Я просто хочу показать, что ответ на этот вопрос зависит чисто от мировоззрения. Или все-таки наука способна придумать такие методы, или нет, информация потеряна навсегда. Представь, например, что выяснять, что звуковые колебания отражаются на структуре могильных плит. Или черепов. Определить, что череп принадлежит Ее предку уже и сейчас можно. А так проиграют его как пластинку и узнают, как его жинка звала. Собственно говоря, все о чем я спрашиваю, так это теряется информация или нет

"Я"

«Я»! Информация просто обязана теряться. Энтропию - ее злейшего врага никто не отменил. То, что есть вопросы, на которые никто и никогда не даст ответа не ограничивает науку. Дело тут вот в чем. Если мы не можем узнать точного имени n*Пра Дедушки, это не значит, что существует бесконечное множество вариантов. Очевидно(!), что его НЕ могли звать Вилен Индустриевич. Я не филолог, но догадываюсь, что круг возможных корней от которых образовано имя Дедушки конечно. А раз так, то с некоторой вероятностью мы можем предположить множество возможных решений. Конечно, для конкретного потомка такая оценка недостаточна, но так и расстояние в 1см с точностью до полурадиуса нейтрино определить никто и никогда не сможет. Но это практически никому и никогда не понадобится. Цель науки не состоит в получении всех мыслимых и немыслимых (точное расположение камней в радиусе 1км левее южного полюса Ио) данных. ЕЕ цель в обнаружении законов, согласно которым мы можем моделировать мир. Африканец, я правильно тебя понял?

Артур

Артуру:
А как же История?
Насчет прадедушки я слегка прикалывался, но как насчет происхождения Индоевропейцев? Ведь многие люди пытаются решить этот вопрос, на их исследования тратятся деньги. Неужели нельзя достичь какой-либо приемлемой точности? Я встречал несколько версий - Украина, Алтай, ближний Восток... Можно ли их конкретизировать. Может энтропия не уничтожает информацию, а просто добавляет к ней шум? Из-за которого информацию нельзя выловить с приборами имеющейся чувствительности, но которую можно выловить приборами будущего? Вот в чем вопрос-то...

"Я"

Артур, Арк, Физик, "Я" ... все, кто про информацию
Кстати и о ней. Информация всегда "о чем-то". "Чистая" информация, объем которой выражается в битах, - это просто характеристика пустого места, на которое можно записать сколько-то двоичных состояний. А какая информация помещается на это место - зависит от того, о чем она. Скажем, дверь.

Два состояния - "открыта-закрыта", для записи нужен 1 бит.
Кому-то этого мало, его интересует "открыта-полуоткрыта-приоткрыта-закрыта". Уже два бита (четыре состояния).
А кто-то хочет знать угол поворота с точностью до градуса. То есть 90 состояний, минимум 7 бит.
А "объективная дверь" одна и та же. И состояния одни и те же. Просто в зависимости от того, что мы хотим знать, количество бит информации, содержащихся в состояния двери (иначе, необходимых для записи состояния двери) - разное.

Зануда

Я", про Историю ничего не скажу. Я так плохо знаком с ней как с наукой, что не знаю даже точного определения области исследования. Ясто, только, что История не просто "летописьписание". Про происхождение ИЕ я транслировал гипотезу, которую когда-то слышал. Интуитивно чувствую, что знание корней ИЕ нужны для понимания последующих изменений на територии Евразии.
Энтропия действительно добавляет шум. И когда уровень шума превышает уровень полезного(информационного)сигнала, то выделить потерянные данные становиться невозможно. В появление "гениального" прибора не верю, а строже, ститаю что это невозможно. В противном случае, доведя идею до абсурда приходим к Великому и Могучему СуперУченному. У него на входе поток шума, любого, а на выходе абсолютно точные ответы на любые темы. Просветленное Человечество ВСЕ бросает и придается Удовольствиям.
Думается что Жизнь это и есть постоянная борьба с Энтропией за сохранение накопленной информации. В любой клетке есть все необходимые данные для ее копирования - ДНК (! спираль - двойная - резервирование данных!). Энтропия непрерывно "гадит". Шум порождает мутации. Подавляющее большинство из них приводит к потере жизнеспособности или к вырождению. Только небольшая их часть приводит к появлению живых клеток с иными (и не всегда лучшими свойствами).

Артур

Артуру

Супер Ученый не получится
Предел чувствительности гипотетичесого прибора можно отодвигать до любого наперед заланного уровня, но не до бесконечности...
А насчет шума...
Глушили же у нас вражьи голоса, ну и что? Все равно можно было услышать. А то бы они и не вещали

"Я"

Артур,
Если на входе СуперУченого шум, а на выходе - ответы на все загадки мироздания, то человечеству все равно не светит расслабиться и предаться удовольствиям. Поскольку найти в череде этих ответов тот, который нужен именно сейчас - задача нереальная. См. Станислав Лем, путешествия Трурля и Клапауция. Как они в бочку с затхлым воздухом посадили демона второго рода и тот из движения молекул в затхлой бочке стал производить сведения обо всем на свете. Тот негодяй, для которого они этого демона сделали, задохнулся под бумажной лентой с кучей абсолютно ненужных ему сведений. То есть производимые СуперУченым ответы будут все тем же шумом, который просто организован несколько иначе, чем входной - ну и что?

Зануда

Всем информатикам!
А вы не путаете информацию со знанием, а знание с пониманием?
"То, что из одного только объема информации, часто красиво называемого знанием , еще не возникает понимание, подчеркивает философ Джон Сирли (John Searle) в своей знаменитой Картине из китайской комнаты:

Если посадить человека без малейшего знания китайского языка за письменный стол и дать ему большую по объему, но четко написанную инструкцию под девизом: Если ты увидишь этот иероглиф или определенную комбинацию на записке, нарисуй эти иероглифы на новом листе бумаги , то, если правила иероглифической информации достаточно отшлифованы, возникнет иллюзия бюро китайской корреспонденции. Тот, кто снаружи бросает в ящик для входящей корреспонденции китайские послания и некоторое время спустя находит китайское сообщение в ящике для исходящей корреспонденции, подозревает, что работает человек, знающий китайский язык. Однако взгляд за дверь разочаровал бы. Человек в китайской комнате не имеет понятия о значении сообщений, которые проходят через его стол. Подобным образом, делает вывод Сирл, и компьютеры самое большее в состоянии трансформировать символы, но не понимать их.Следовательно, никакой речи не может быть о том, чтобы скусственный интеллект мог породить способные к пониманию компьютеры."

Цитата из одной весьма занятной статейки в сети. Нашел я ее по запросу "теорема Геделя", между прочим. Как в сети все интересно переплетается!

Spiritus

Зануда, про "пустое место" категорически не согласен. Информация в битах есть логарифм(двоичный) числа возможных (и не всегда равновероятных) состояний объекта. Это ты про дверь правильно заметил! Дык я и про монетку не так давно талдычил. В битах измеряется не "чистая" информация, а мера информации об объекте. Так что особого противоречия нет.

Артур

Интересная такой вывод получается - всякое предсказание (сколько-нибудь отдаленного) будущего бессмысленно. Потому что оно будет описано в терминах нынешних, представляющих картины будущего в понятной сегодня форме. Очевидно, что не имея адекватных понятий для будущих объектов, мы опишем их крайне выборочно, только в той части, в которой они могут быть хоть как-то сопоставлены со знакомыми нам. Потомки же должны будут реконструировать систему представлений и образов предсказывающего, решить, какие именно объекты их времени были отображены и в тех или иных образах предсказания - то есть проинтерпретировать пророчество. Если учесть, что часть наших представлений будет так же чужда потомкам, как предсказывающему - то, что он увидел, то говорить о сколько-то адекватной интерпретации не приходится. Интерпретаций возможна масса, причем самых произвольных и противоречащих друг другу и самим себе. В пределе - тот самый шум, из которого можно извлечь все - и ничего.

В этом смысле информация несомненно исчезает - когда утрачиваются способы интерпретации символов, которыми она записана. Текст на никому неизвестном древнем языке несомненно когда-то был информацией. Но - даже если сама надпись у нас перед глазами - при утере знания языка он информацией уже не является.

Зануда

Зануда! Дык про бочку Трурля я целикм и полностью согласен! Я ведь против такого Супера. Там так это ясно написано! :) Что касательно о пропости в представлениях нынеживущих, их предков и потомков, то и тут возразить нечего. Огромное количество ошибок в трактовках древних текстов проистекает из попытки осознать их деятельность и систему ценностей сквозь призму наших предствалений о мире, человеке и пр.

Spiritus, что-то подобное про "китайское бюро" я читал. На входе поток законопроектов, технических проектов и пр. и пр. Естественно есть толковые и бестолковые, полезные и бесполезные. При болшьшом их числе "хорошие" и "плохие" достаточно равновероятны. На выходе тот же поток с резолюциями. Система развивается в направлении монотонного возростания. Вопрос минимальное число резолюций (и, если возможно их тексты) для того чтобы система, которой управляет случайный генератор резолюций развивалась?!

Артур