...

воскресенье, 1 декабря 2013 г.

Что важно для создания ИИ 2: «Зависимость. Взгляд со стороны нейронной сети»

Зависимость




image

Каждый раз, когда по телевидению шли передачи о зависимости от Интернета или компьютерных игр мне было не по себе. Эти зависимости всегда приравнивали к наркотической, подчеркивая, что, практически, между этими зависимостями никакой разницы. А что может быть хуже? Компьютерные игры я играл часто и много, но больше всего времени посвящал на изучение самого ПК и программного обеспечения, проводя много времени экспериментируя над железом и софтом, чем увлекаюсь и до сих пор. И, тем более, у меня не было зависимости от Интернета. Он был очень дорогой, пользовался им только для поиска информации на реферат, курсовую, дипломную. Но часто ловил косые взгляды родителей, когда по телевизору в очередной раз рассказывали об этих зависимостях. Меня всегда удивляло как именно «ученые» (не удивлюсь, что на самом деле, не ученые, а черт знает кто) искали и измеряли общее в этих зависимостях. В этой статье я попытаюсь доказать, что каждая зависимость «практически ничем не отличается от наркотической зависимости», и что это сходство совсем не доказывает пагубность зависимости. Покажу что зависимость, привычка и хобби «практически ничем не отличается от наркотической зависимости». Так же «докажу», что ИИ может быть зависимым и ему будут присущи привычки.

Поскольку игромания, наркомания и Интернет зависимость совершенно разные вещи, единственное, что есть общего — это психологическая зависимость. Поэтому зависимость я буду рассматривать со стороны «нервной» системы, а именно нейронов и нейронных сетей (зависимости я беру только ради примера, и что именно за зависимость — совершенно не имеет значения). Не буду описывать, что такое нейронная сеть — материалов на данную тему в Интернете просто завались. Единственное что уточню, это то, что мозг – это самоорганизующаяся нейронная сеть, поэтому о такой сети и пойдет речь.

Внимание это не та статья где можно почитать и пожевать попкорн!

Осторожно! Очень много тежелых для понимания умозаключений! Поэтому не переводите зря помидоры и тухлые яйця…

Если вы готовы, прошу под кат!


Сначала термины и аббревиатура:

ГНС – глобальная нейронная сеть (вся нейронная сеть).

ЛНС – локальная нейронная сеть (часть ГНС), нейроны которой могут быть, как соединены вместе, так и разбросаны по глобальной нейронной сети. Подразумевается, что нейроны данной сети объединяет какое-то свойство, например, эта сеть есть каким-то навыком, или воспоминанием.

НС – нейронная сеть (не важно, ГНС или ЛНС).

Негативный сигнал – сигнал ошибки в НС (ослабляет синапсы).

Позитивный сигнал – сигнал-подтверждение (усиливает синапсы).

Помехи – сторонние сигналы, усложняющие работу или приводящие к не правильной работе системы, на которую они воздействуют.

Навык ~ Привычка ?

Для начала начнем с самых низов – рассмотрим, что такое навык:

Навык — деятельность, сформированная путем повторения и доведения до автоматизма.

А так же, что такое привычка:

Привычка — сложившийся способ поведения, осуществление которого в определённой ситуации приобретает для индивида характер потребности, которые побуждают совершать какие-нибудь действия, поступки.

(Оба определения взяты из Википедии) Чтобы совершать какое-то действие нужно уметь его делать. Логически подумав, мы можем сделать вывод, что привычка, это навык, который работает («включается») «в определённой ситуации». Получается, что привычка – это навык подбирать ситуацию, чтобы использовать другой навык. Из чего выходит, что со стороны нейронной сети, привычка от навыка, фактически, не отличается – это такой же навык, такая же «локальная» сеть нейронов, организованная в процессе обучения. С другой стороны вся нейронная сеть состоит из взаимосвязи таких «локальных» сетей – одни были с самого начала, другие построились в процессе обучения, думаю, это ни для кого не было секретом. С чего же еще может состоять сложная нейронная сеть как не с сетей поменьше, объединенных в одну большую? Машинально закрыв важное окно или сообщение, по привычке нажав на OK, означает, что в этот момент «управление получила» одна из таких ЛНС «доведенная до автоматизма».

image
Механизмы разрушения ЛНС

Любую из ЛНС можно разрушить, например, если кто-то будет бить вас по пальцам, когда вы снова машинально закроете нужное окно (в этот момент мне вспомнился Демосфе́н), в результате многочисленных негативных сигналов, данная локальная сеть начнет ослаблять синапсы и, в конце концов, начнет разрывать связи. В результате, конечно, вы можете «построить» сеть, которая будет «заставлять» вас щурится каждый раз, когда будете закрывать какое-то окно, но это уже будет совсем другая сеть (щурится в ожидании удара по пальцам, или же вспоминая ощущения удара). Разрушить сеть будет не так уж и просто, если она имеет достаточно сильные связи, из-за чего вы буде и щурится и закрывать окна одновременно.

Давайте рассмотрим «природное» разрушение ЛНС. Допустим, Вы утопили свой старенький мобильный телефон, к которому вы привыкли и с закрытыми глазами знаете, что в нем, где и как, но вынуждены были купить новый. Масса привычек и навыков, приобретенных от пользования старым телефоном, к нему не подходят. Время от времени ваши пальцы что-то делают, повторяя то, что они делали на старом телефоне, но на данном телефоне эти действия не дают нужных результатов, в результате много ошибок и глупых действий. Ваши ЛНС часто получают негативные сигналы и начинают разрушаться, разрывать связи, создавать новые. Новые связи могут быть совершенно неверными, приводя к нелогичным действиям. Данные ЛНС из упорядоченных сетей превращаются в хаос, создавая помехи в ГНС. Получен навык – построена новая ЛНС, но, еще некоторое время, существует старая, которая, время от времени, заставляет нас делать старые действия, неприменимые к новому телефону. Иными словами создает «помехи» в ГНС, принося нам дискомфорт, неправильные действия и массу неприятностей. Старая ЛНС еще некоторое время будет искать свое место в ГНС, разрушая и создавая новые связи как у себя внутри, так и снаружи. Она или реорганизуется под новые действия, что маловероятно (разве что старые и новые действия уж очень будут похожи), или же рассыплется в хаос и нейроны будут «вынуждены» искать свое место в ГНС в других ЛНС, неизбежно создавая помехи в их работе.

В любом случае разрушения ЛНС, есть большая вероятность гибели нейронов. Нет гарантий, что каждый нейрон найдет себе новое место в ГНС, особенно если она состоит из самодостаточных ЛНС, которые не нуждаются больше в учебе. Любой нейрон, добавленный в нее, создаст лишь помехи и будет, скорее мешать, нежели помогать. Такая сеть или разрушиться (в крайнем случае, повредится), если она слабая или же просто «не впустит» новый нейрон. Свободный, не контактирующий с раздражителями нейрон, просто погибнет. Сложно представить какой хаос создается при разрушении ЛНС, еще можно взять во внимание, что каждая такая ЛНС связана с другими ЛНС и ее разрушение приводит к тому, что другие ЛНС будут «вынуждены искать» себе новые связи. Разрушение ЛНС можно прировнять к локальному взрыву в ГНС. С чего можно сделать вывод, что часть нейронов разрушенной ЛНС привяжется к свободным выводам других ЛНС. Свободные выводы еще долго будут создавать и разрушать синапсы, пока не найдется новые правильные синапсы. Можно еще упомянуть, что в процессе обучения в любом случае некоторые нейроны могут освобождаться, но это не сравнить с разрушением.

image
Немного лирики

Небольшое лирическое отступление прежде, чем продолжить размышлять по теме. Представив себе разрушение ЛНС, меня осенило: «так вот почему каждый участок мозга имеет свое место». Это, конечно, не объясняет, почему именно то, на котором она находится, но это объясняет почему. Стоит только представить себе, что произойдет, если разрушение некоторой ЛНС повлияет на ЛНС, отвечающую за дыхание, сердцебиение или любую настолько же важную ЛНС. Смерть – вот что произойдет (освободившиеся нейроны из разрушенной ЛНС будут искать свое место в других сетях, создавая помехи и, в результате неправильную работу сетей, в которые они будут внедряться). Еще одно, о чем я подумал, это то, что разрушение сети происходит только при достаточном количестве негативных сигналов. Как человек понимает, что он делает что-то не так? Это происходит по-разному. В одном случае это боль в иных это эмоции (его или кого-то из окружающих), умозаключения самого человека – получен результат, но, например, противоположный ожидаемому, из-за чего человек получил стресс. Сам стресс, в этом случае, и есть негативный сигнал. Стресс может быть настолько сильным, что этот человек может потерять дар речи – ЛНС, отвечающая за речь, разрушилась (пускай не полностью, лишь часть синапсов). Причем здесь дар речи до его действий? Стресс – негативный сигнал, распространился по ГНС (пускай, не равномерно) «попавшие под раздачу» синапсы разорвались. Это нормальная реакция на негативный сигнал в НС. Как уже говорилось, разрушение нейронной сети вряд ли обойдется без гибели нейронов. Вспомним выражение: «Не нервничай! Нервные клетки не восстанавливаются». Здесь я так же замечу, что в природной НС механизм распространение негативного сигнала (ошибки) не совсем прозрачен, как в искусственной. Во-первых он не так локально и четко действует; во-вторых в НС кроме сигналов еще много процессов происходят катализаторы/ингибиторы и т.д. и т.п. Вэти дебри я не полезу — это уже другая тема и не одна… Ладно, хватит лирики, возвращаемся в тему…
Еще немного терминов

Рассмотрев два простых понятия (навык и привычка) можно ступать на скользкий путь начинать рассматривать и третье понятие – зависимость.

Зависимость (аддикция) — навязчивая потребность, подвигающая человека к определенной деятельности. (из Википедии)

Здесь я вернулся к определению привычки (и выделил слово потребность). Можно сказать, что зависимость это та же привычка и мы будем правы. Но это понятие немного сложнее, чем казалось бы. Представьте ситуацию, что вы хотите пить. Организм генерируетсвоего рода раздражительные сигналы, которые в результате должны привести к удовлетворению потребности пить. Вы можете выпить стакан воды даже не задумываясь, и даже не помнить, что вы это сделали.

А сейчас более углубимся в вопрос и рассмотрим несколько терминов (из Википедии):

Привыкание (габитуация) это постепенное уменьшение ответной реакции как результат продолжающейся или повторяющейся стимуляции в нормальных условиях (не сопровождается подкреплением стимула).

Реце́птор — сложное образование, состоящее из терминалей (нервных окончаний) дендритов чувствительных нейронов, глии, специализированных образований межклеточного вещества и специализированных клеток других тканей, которые в комплексе обеспечивают превращение влияния факторов внешней или внутренней среды (раздражитель) в нервный импульс.
Привыкание

Рецепторы способны воспринимать не только раздражитель, а и его интенсивность. Проведем эксперимент на привыкание. Положим кирпич монетку на руку и посидим некоторое время, не шевеля ею. Со временем мы перестанем ощущать монетку. Если бы мы положили на руку кирпич, то вряд ли бы мы привыкли к нему, масса нервных окончаний «вопило» бы о повреждениях, т.е. изменения происходили бы на микроуровне, со временем это было бы видно невооруженным глазом: покраснение руки и т.д. Причиной тому будет совсем не усталость рецепторов. Представим себе нейронную сеть, в которую приходили одни и те же сигналы. Что с сетью происходило? Она изменялась до тех пор, пока не обучилась под эти сигналы. И вдруг сигналы изменились. Что будет происходить? Да то же, что и в предыдущем случае – сеть будет перестраиваться, пока не обучится. Предположительно наша нервная система способна «ощущать» только изменения раздражителей. Придавленная кирпичом рука уже не сможет ни ощущать, ни шевелиться, пока не возобновиться циркуляция крови. Стоит нам пошевелить рукой (изменить раздражитель), и мы снова начнем ощущать монетку. Даже боль раны мы можем не ощущать, пока не пошевелим ею или притронемся к ней. А сейчас возьмем, к примеру, прослушивание музыки слушая одну и ту же песню продолжительное время мы уже не будем получать того удовольствия, которое получили при первом прослушивании. Слушая музыку мы «обучаем» ЛНС, получая массу позитивных сигналов. В некоторый момент сеть обучится и перестанет издавать позитивные сигналы. Если продолжить слушать музыку, которая уже надоела, то обучение не прекратится, оно будет продолжаться, только в других нейронных сетях и если сеть начинает получать совсем «не приемлемые» сигналы она будет очень сильно сигнализировать негативными сигналами, может даже начать разрушаться, иными словами, можно сойти с ума. Представим себе сеть, которая уже достаточно обучена и тут ей «говорят», что каждое ее действие ошибочно. Вот почему когда нам грустно мы хотим слушать грустную музыку. Потому, что музыка стимулирует те нейронные сети, в которых происходит поиск правильных решений. Свободные выводы и нейроны создают «помехи» в НС, при прослушивании музыки эти нейроны и выводы связываются и получают позитивные сигналы — подтверждение правильных действий. Отсюда и интерес, к разного рода вещам, желание обучаться, получать новые ощущения. Равновесия в системе не бывает никогда – всегда бывают свободные выводы, создающие помехи в НС – «заставляющие» нас действовать, в поисках нового, для создания и закрепления новых синапсов. С другой стороны, если сигналы способствуют разрывам, в первую очередь, сначала, негативным сигналам то такие сигналы – большой дискомфорт для НС, такие сигналы будут, просто неприемлемыми. Иными словами, чем больше сигналов сигнализирующих, что синапс лишний и чем сильнее синапсы, тем больше дискомфорта для НС, синапс был на 100% уверен, что правильно работает, а ему говорят, что все, что он делает неправильно в корне – это просто катастрофа.

Все это ни что иное как привыкание. Привыкание посредством обучения но за своей природой это не единственный тип. Рассмотрим еще один пример. Мы сидим в машине которая едет по брусчатке. Если мы посидим в ней некоторое время у нас просто скрошатся зубы мы перестанем ощущать такое же раздражение, как в начале поездки (это есть привыкание посредством обучения). А когда остановим машину, то еще некоторое время будем ощущать что нас трясет, буд-то мы все еще едем. Что это значит? Это значит, что п НС протекают какие-то процессы заставляющие нас ощущать тряску в ее отсутствии. Возможно, и здесь такое же привыкание как и в предыдущих примерах, но этот тип привикания невозможен без внутренней активности НС. Раздражители находятся внутри самой сети. Может эти раздражители это те нейроны, что имеют свободные выводы, которые ищут правильные соедиенения, но подозреваю, что это не единственные раздражители. Наличие раздражителей внутри — основное отличие между природной и искуственной нейронными сетями. Искувственная НС действует только при наличии внешних раздражителей. Осмелюсь заметить, что природную НС отсутствие внешних раздражителей сначала приведет к безумию, а потом и к смерти.
Размышление о привыкании...

Привыкание… Не могу точно сказать что это такое но есть несколько версий происходящего (думаю, они все правильные):
Версия первая «Изменения»

Мы ощущаем только те действия которые приводят к созданию или разрыву синапсов. Не не так… Действия которые ослабляют или усиливают синапсы, и мы ощущаем просто интенсивность изменения синапсов. При любом воздействии ни сеть, т.е. поступление сигналов в нее, в ней будут изменяться синапсы (весы синапсов, разрывы, соединения новых и т.п.) Когда сеть обучена синапсы, практически не изменяются, мы привыкли к раздражителю и ощущаем его.
Версия вторая «Поиск укромного уголка»

ЛНС начинает искать положение связей в котором воздействие на нее будет иметь наименшую интенсивность.
Версия третья «Действие-противодействие»

Каждое воздействие на ЛНС подавляется противодействием в НС, т.е. НС подает сигналы на подавление на нее воздействий. В следствии чего нас еще трясет после того, как мы вышли с машины, которая ехала по брусчатке.

На мой взгляд это не отдельные версии, а части одного целого.
Зависимость

Рассмотрим типичного наркомана. Попробовав наркотик и получив от этого удовольствие он принимает его снова и снова. Каждый следующий раз он получает все меньше и меньше удовольствия, что ззаставляет его увиличивать дозу. Наконец он хочет кинуть пагубное занятие, но кинуть он его не может — ломка заставляет принять наркотик снова.

Ни для кого не секрет, что нервная система — это сложный компьютер, управляющий всеми процессами в организме. Получая сигналы о возникновении потребности нервная система направляет сигналы на ее удовлетворение. Например, хочется пить — запускается целая цепочка навыков и привычек (что? где? как?), потому что НС «знает» что делать (она этому обучена). С природными потребностями все понятно, а вот как с «набытыми» все происходит.

Возьмем к примеру игровую зависимость. Вы садитесь играете в игру, получаете от этого удовольствие, в следствии чего строится отвечающая за это ЛНС.

Что же происходит потом? Имеем ЛНС, в которой достаточно сильные синапсы (игры мы играли много). Если не ипользовать эту ЛНС — она начнет разрушаться.

Представте большую ЛНС построену не важно наркотической зависимостью, или же игровой, или каким-то другим занятием… Эта ЛНС начинает разрывать синапсы. Свободные выводы нейронов снова начинают искать свое место в сети соединяясь с другими свободными выводами. Во всем этом хаосе в ГНС возникает огромное количество негативных сигналов и помех. Это, конечно, зависит еще и от размеров ЛНС, которая разрушается: чем больше в ней нейронов, тем больше она создает ошибок и помех. С чего можно сделать вывод, что маленькая ЛНС не может быть зависимостью. (Этим, к стате, она и отличается от привычки или навыка), и что зависимость — это просто большая ЛНС. Еще можно сделать вывод, что любое частое занятие может перерости в зависимоть и это не всегда плохо. Усердное занятие и обучение чему-то неизбежно повлечет за собой создание большой ЛНС, если же она не будет рушиться стрессом и плохили эмоциями, в следствии обучению этой ЛНС вопреки желанию. Получается, если приложить усилия, то и вопреки нежеланию, ЛНС может вырасти и «заглушить» само нежелание (или же ЛНС «нежелания» заглушит ее, тут можно размышлять и спорить вечно). Осмелюсь предположить, что у каждого есть свои зависимости и никуда от этого не деться, главное, чтоб они нам не мешали жить. image
Снова немного лирики...

Осмелюсь предположить, что механизм противодействия может возникать как простое обучение некоторых ЛНС воспринимая сигналы удовольствия или же боли как негативные сигналы и обучение выработке противодейственных сигналов. И при соблюдении обстоятельств противосигнал начинают вырабатываться, даже при отсутствии самих сигналов, что приводит к сильнейшему дискомфорту НС. Это просто предварительная моя версия. Здесь можно сделать заключение о том, что для одной сети сигнал может быть позитивным и одновременно быть негативным для другой.

Здесь стоит разобраться еще с механизмами получения удовольствия и дискомфрта. Получение удовольствия — позитивный сигнал для ЛНС, дискомфорт — негативный. Скорее всего, что с механизмами распросстранения ошибок не все так просто, как мы думаем.

Не до конца понятны механизмы возникновения и распространения позитивных и негативных сигналов. Не понятно почему структура мозга остается, практически неизменной на протяжении всей жизни. Другими словами что управляет нейронами не давая им кочевать куда попало, а оставаться на своей территории.
Выводы

— Я еще раз убедился в важности эмоций (стресс, радость и т.п.) для развития интеллекта и даже не понятно что это такое со стороны НС.

— Еще раз было доведено, что сигналы поступают в НС не только снаружи, но и извнутри ее.

— Один и тот же сигнал может быть позитивным для одной ЛНС и негативным — для другой одновременно.

— Нам до сих пор, до конца не понятен принцип работы природной НС. Механизмы распространения ошибки — не до конца изучены.

— Современной ИНС никогда не стать ИИ, т.к. она достаточно примитивна (исходя из предыдущих выводов).

— Если бы было все понятно — не было бы этой статьи, т.к. уже давно были бы рабочие экземпляры ИИ.

— Зависимость — это просто большая ЛНС.

— У каждого есть свои зависимости и это не всегда плохо.

— Стало понятно почему так тяжело ничего не делать. Потому, что врезультате бездействия разрываются синапсы и свободние нейроны или их выводы начинают искать куда подсоединится, замыкая разние участки НС, что и заствляет нас что-то делать или же подавлять действия другими ЛНС. Это заставляет задуматься, что, возможно, это и есть «генератор» сигналов внутри НС и само мышление.

— Нейрон, это не просто клетка, а, своего рода, одноклеточный организм со своими потребностями и поведением (чего никто не учитывал, при моделировании ИНС).

Источником начала размышлений стало видео:


Всем спасибо за уделенное внимание. Жду интересных комментариев.


This entry passed through the Full-Text RSS service — if this is your content and you're reading it on someone else's site, please read the FAQ at fivefilters.org/content-only/faq.php#publishers.


Комментариев нет:

Отправить комментарий