Нейронные сети головного мозга: Harvard Business Review Россия

Harvard Business Review Россия

В 2011 году, когда фанаты Apple стояли в очередях за новыми айфонами, The New York Times опубликовала статью «You Love Your iPhone. Literally» (Вы влюблены в свой iPhone. На самом деле). В ней рассказывалось об эксперименте, в ходе которого автор сканировал мозг 16 человек, слушающих аудиозаписи звуков звонящих или вибрирующих айфонов либо смотрящих видео с их изображением. Сканирование выявило активность островковой доли — области головного мозга, которая активизируется, когда человек чувствует любовь. «Мозг испытуемых реагировал… так же, как на присутствие или приближение любимого человека… — писал автор. — Они любили свои айфоны».

В ответ Times получила возмущенное письмо, подписанное десятками нейробиологов, где говорилось, что треть всех нейровизуализационных обследований фиксирует активность островковой доли. Эта область активна, когда человек ощущает изменение температуры или просто дышит. Вообще-то в 2007 году та же Times писала, что эта область мозга задействуется, когда люди испытывают чувство, противоположное любви. В статье, озаглавленной «This Is Your Brain on Politics» (Что ваш мозг думает о политике), активность островковой доли связывалась с раздражением. Автор утверждал, что пиковые значения были зафиксированы у мужчин, когда они реагировали на ­слово «республиканец». В газету и тогда ­пришло ­гневное письмо ученых.

Эти две статьи Times — пример того, что ученые называют «порнухой про мозг»: по их мнению, ведущие СМИ слишком упрощают достижения нейробиологии. После подобных публикаций появляются как грибы после дождя армии нейроконсультантов, утверждающих, что они могут объяснить все секреты управления и маркетинга — с точки зрения работы мозга. При всей сомнительности излагаемых в этих материалах выводов они обычно основаны на анализе снимков, сделанных во время процедуры функциональной магнитно-резонансной томографии (ФМРТ), главного инструмента нейробиологии.

Эти изображения словно навязывают подкупающе простые объяснения сложного явления. Но дело в том, что ФМРТ не всегда показывает причинно-следственную связь. Более того, мышление и поведение не «накладываются» на области мозга один к одному. Невозможно, изучая головной мозг человека, который смотрит по телевизору рекламу, сказать, что ему больше нравится — кока-кола или пепси. Невозможно, исследуя мозг двух генеральных директоров, сказать, кто из них более сильный руководитель. Сама по себе активность островковой доли еще не доказывает, что вы испытываете к своему ­айфону те же чувства, что и к своей невесте.

Чтобы понять, как неврологические процессы действительно связаны с управлением, лидерством и маркетингом, надо отделить факты от вымысла, отсеять наивные интерпретации и составить более сложную картину науки о мозге.

И это уже понемногу происходит. Благодаря многим факторам — развитию технологии ФМРТ, появлению новых статистических методов и даже объявленному президентом Обамой проекту создания полной карты головного мозга человека — нейробиологи начинают мыслить новыми, более точными категориями. Они переходят от изучения активации областей мозга к изучению того, как параллельно активизируются сети областей мозга. Это можно сравнить с работой детектива, который раньше, восстанавливая картину преступления, смотрел записи одной камеры слежения, а теперь — сделанные множеством камер, установленных в разных местах.

Новые инструменты и методы уже привели к новым открытиям, связанным с биологией нашего сознания, и углубили наше понимание важных, с точки зрения управления, моментов, например того:

• как стимулировать творческое мышление;
• как структурировать удовольствие;
• какую роль в принятии решений играют эмоции;
• какие возможности открывает многозадачная работа и в чем ее опасности.

Взгляд через призму нейронных сетей не так заманчив, как нынешний популярный взгляд на нейробиологию. Настоящая нейробиология, основанная на изучении сетей, сложнее. Хаотичнее. Но настоящая наука — это всегда хаос.

Ни минуты не сомневаемся, что наши рассуждения могут вызвать протесты других нейробиологов; наука так молода, что до единого мнения еще далеко и новые исследования чуть не каждую секунду уточняют то, что мы уже знаем о мозге. Тем не менее мы уверены в своем «промежуточном отчете» о тех открытиях нейробиологии, сделанных за последние 15 лет, которые уже получили веское эмпирическое обоснование.

«Нейробиология на удивление мало рассказала нам о том, как работает мозг, но кое-что она рассказала очень хорошо», — говорит один наш бывший коллега. Вот этому «кое-чему» и посвящена статья. Сейчас нейробиологам известны 15 нейронных сетей и субсетей головного мозга. Мы расскажем о четырех системах, которые вызывают у ученых меньше всего споров: это сеть пассивного режима, сеть удовольствия, сеть эмоций и сеть контроля. Это основные общепризнанные нейронные сети, роль их становится все понятнее — равно как и их важность для управленцев.

Как раскрепостить новаторские способности

Одно из самых ярких нейробиологических открытий последнего десятилетия заключается в следующем: мозг никогда не находится в состоянии полного покоя. В периоды бодрствования, когда человек не сосредоточен на конкретных мыслях («витает в облаках» или полностью «отключился»), особая сеть участков мозга находится во включенном состоянии. Ее называют сетью пассивного режима. Уже само ее обнаружение произвело переворот в науке: теперь мы знаем, что мозг обрабатывает не только новую информацию, поступающую от пяти органов чувств, но и уже усвоенную, причем занимается этим значительную часть времени.

Кроме того, сеть пассивного режима отвечает за одну из самых важных наших способностей — трансцендентальность, или «выход за пределы» — к познанию умозрительных, независимых от опыта явлений. Представлять себе, что может происходить в другом месте, в другое время, в голове у другого человека или вообще в совершенно ином мире, могут только люди — и именно благодаря активности сети пассивного режима. «Выходя за пределы», человеческий мозг «отвлекается» от внешних условий, а значит, перестает реагировать на внешние раздражители.

Это открытие означает, что свободное время, ничему конкретному не посвященное, — важный (и недоиспользованный) фактор развития инновационной мысли — и создания революционных инноваций. Тут, конечно, можно вспомнить Google, в которой программистам разрешают самостоятельно планировать рабочее время и 20% его тратить на свои проекты. Пример Google подхватили и другие. Консалтинговая фирма Maddock Douglas, которая помогает компаниям налаживать инновационную работу, предоставляет сотрудникам право от 100 до 200 часов в год заниматься тем, что интересно лично им. Персонал консалтинговой фирмы Bright-House может пять дней в году спокойно предаваться размышлениям или просто витать в эмпиреях. Сотрудникам Intuit 10% рабочего времени позволено тратить на неформализованные творческие задачи — по образу и подобию Google. В Twitter проводят так называемые Hack Weeks: в это время можно экспериментировать и разрабатывать идеи, не имеющие отношения к их основным обязанностям. А софтверная компании Atlassian устраивает ShipIt Days — 24-часовые хакатроны: в это время люди участвуют в любых интересующих их проектах фирмы и на следующий день должны «отгрузить» результаты.

У таких программ, конечно, немало плюсов: известно, что, когда у людей есть свободное время для творчества, у них повышается профессиональная самооценка и мотивация, они чувствуют себя счастливее. Но открытия, связанные с сетью пассивного режима, заставляют усомниться в достаточности этих программ. Во-первых, обычно время сотрудников не вполне свободно. Предполагается все-таки, что они будут искать решение проблем, а это значит, что на их сети пассивного режима будут по-­прежнему воздействовать внешние раздражители. Мозгу предстоит иметь дело с непосредственной реальностью.

Во-вторых, ключевым моментом таких программ оказывается количество предоставляемого людям свободного времени, хотя куда правильнее было бы обратить внимание на его качество. Можно было бы отключать электронную почту сотрудников, разрешать им отменять запланированные дела, отбирать у них телефоны, отправлять их в путешествия, подальше от работы и от коллег; освобождать от всех остальных должностных обязанностей. Надежный способ отвлечься от «жизни» — медитация. Важно, чтобы благодаря активности сети пассивного режима человек мог вообразить себе мысли других людей, в своих фантазиях перенестись в другое время и место, запустить поток свободных ассоциаций, не сдерживаемый сетями, которые обрабатывают информацию, поступающую из внешнего мира.

Если вдруг на вас снизошло озарение или решение проблемы пришло нежданно-негаданно, когда вы, вроде бы, и не думали о ней, это значит, что вы пожинаете плоды активности сети пассивного режима. Но, конечно, включать такие «отключения» в рабочий процесс трудно — не понятно, как оценивать итоги таких «уходов» (этим, вероятно, объясняется, что компании, у которых существуют программы свободного времени, ориентируются на конкретные параметры вроде доли рабочего времени или срока создания продукта). Тем не менее с полным отвлечением от рутины экспериментировать нужно, поскольку это — лучший способ получить прорывные идеи.

Как структурировать средства поощрения

Еще в начале ХХ века ученые мечтали о «гедонометре» — инструменте, которым измеряли бы уровень удовольствия или недовольства человека как реакцию на те или иные раздражители. Сейчас открытия нейробиологии показывают, что сети удовольствия отчасти и работают как гедонометр. Он активизируется, когда человек испытывает удовольствие, и выключается, когда что-нибудь этому удовольствию мешает.

Если вы думаете, что можно сканировать мозг человека и отмечать, какие, скажем, марки пива, Bud Light или Miller Lite, дают более высокие показатели на нашем«гедонометре», то вы сильно упрощаете дело. Радость и удовольствие зависят от ситуации, их интенсивность от каждого конкретного стимула может меняться, если накладываются другие стимулы. Возможно, пиву Bud Light вы радуетесь больше потому, что есть шанс получить его бесплатно, а Miller Lite — меньше из-за того, что не любите его в жестяных банках, но, если вам предложат этот же сорт в бутылке, уровень вашего удовольствия подскочит. А может быть, во время теста вам вообще не хотелось пива. К тому же — и мы подробнее остановимся на этом, когда будем говорить о сети контроля, — наш «гедонометр» — отнюдь не единственный арбитр в сфере поощрения и удовольствия.

Несколько десятилетий назад ученые с помощью электродов и других инвазивных методов обнаружили у животных то, что оказалось нейронными сетями удовольствия. Они активизировались, когда животным давали еду, воду или еще что-нибудь, необходимое для выживания. Но лишь в конце XX — начале XXI века нейробиологи и нейроэкономисты доказали, что у людей эти сети реагируют на поощрения вторичного порядка, те, которые могут и не иметь отношения к физическому выживанию. К ним, что особенно примечательно, относятся деньги.

Мы также установили, как наш «гедонометр» реагирует на вознаграждения и нематериального рода — и что они могут радовать людей не меньше, чем деньги. Эта идея перекликается с результатами опроса топ-менеджеров, проведенного в 2009 году McKinsey. Респонденты сообщали, что нематериальные стимулы важны для сотрудников не меньше финансовых, а иногда и больше.

Более того, сейчас мы можем определить, какие неденежные виды вознаграждения чаще всего приносят людям удовольствие. Некоторые вполне предсказуемы, например статус и общественное признание. Но есть и неожиданные. Скажем, справедливость. Исследования Джамилемя Заки из Стэнфорда и Джейсона Митчелла из Гарварда показали: когда у людей есть возможность разделить небольшую сумму денег между собой и другими, то их сеть удовольствия реагирует активнее, если они действуют справедливо. Ситуация же, поощряющая несправедливость, угнетает людей — если угодно, их «гедонометры» показывают более низкие значения. ­Несправедливость болезненно воспринимают даже те, кто принадлежит к привилегированной прослойке. Справедливость доставляет удовольствие всем, независимо от общественного и финансового положения.

Это открытие означает, что компаниям, которые справедливо оплачивают труд сотрудников, стоило бы доводить это до их сведения. И наоборот: когда люде узнают о бешеных зарплатах топ-менеджеров, их сети удовольствия «отключаются». Но важна не только справедливая зарплата. Если, к примеру, людей не зовут на совещание по стратегии, хотя по своей квалификации они могли в нем участвовать, они теряют интерес к работе. Плохо также делить сотрудников на тех, кого допускают или не допускают к той или иной информации, так создается неравенство между осведомленными и непосвященными — вот почему так важна прозрачность.

Еще один активатор сети удовольствия — предвкушение от познания нового. Любознательность — сама по себе награда, в буквальном смысле. В ходе одного эксперимента, который проводили Колин Камерер из ­Калифорнийского технологического института и его коллеги, добровольцы читали вопросы викторины и оценивали, насколько им интересно получить ответ. Чем сильнее им хотелось узнать, в чем дело, тем сильнее активизировалась их сеть удовольствия.

Сеть удовольствия реагирует на цели, причем, по-видимому, куда более положительно на сформулированные не слишком жестко. Очень конкретные и труднодостижимые цели ставить вредно, так как они ослабляют любознательность и гибкость мышления.

Вот, например, что произошло в начале ­2000-х в General Motors, когда компания поставила перед сотрудниками цель завоевать 29% автомобильного рынка США. GM вгрохала сумасшедшие деньги в рекламу и маркетинговые исследования — вместо того чтобы финансировать разработку инноваций. Подобные недальновидные стратегии обычно появляются в результате чересчур жестко сформулированных целей, а в результате под угрозой оказывается будущее благополучие бизнеса. Именно это произошло с GM: она оказалась на грани банкротства. Если бы задачу определили более обтекаемо — например: войти в первую десятку самых инновационных компаний, — это позволило бы GM решить много задач одновременно.

Кроме того, данные нейробиологии указывают на то, что для мотивации фактор цели вовсе не обязателен. Скажем, работа над новой проб­лемой интересна сама по себе, и «гедонометр» мозга включается еще до того, как найдено решение или получено поощрение, финансовое или нет. Работа сама по себе может приносить такое же удовлетворение, как и вознаграждение. GM могла раскочегарить «гедонометры» своих сотрудников, просто поручив им интересные задачи и не оговаривая при этом, каких именно результатов от них ждут. Поскольку сильнее всего сеть удовольствия реагирует на нематериальные стимулы, напрашивается вывод, что деньги чаще всего — самый дорогой и неэффективный способ поощрения. И эмпирическое подтверждение этому уже найдено. Кау Мураяма из Калифорнийского университета и его бывшие коллеги из Мюнхенского в ходе одного исследования обнаружили, что если платить людям за чисто механическую работу — надо было останавливать секундомер каждые пять секунд, — то им уже не захочется выполнять задание бесплатно и, как следствие, активность сети удовольствия снизится. Все, что работодатель может сделать, не тратя денег, — поощрять справедливость и сотрудничество на работе, позволить людям проявлять любознательность и всячески удовлетворять их потребность в признании другими, — будет мотивировать сотрудников не меньше, чем ­деньги, а то и больше.

Как пользоваться интуицией

Что важнее при принятии решения — интуиция или анализ? Это вечный вопрос. Но намного проще сказать, в какой мере можно доверять предчувствиям, если хотя бы в общих чертах представлять себе, откуда они берутся, почему мозг генерирует их и какую функцию выполняют «чувства».

Ученые уже поняли, как мозг формирует эмоциональные реакции, которые мы называем чувствами. События, происходящие в окружающей среде, вызывают физиологические изменения — артериального давления, пульса, температуры тела, — которые мозг затем интерпретирует в конкретном контексте. Какие-то события могут оказывать аффективное воздействие (удар током неприятен, по определению) или благодаря повторяющимся ассоциациям обладать эмоциональной ценностью (скажем, звук голоса коллеги, с которыми вы дружите, со временем начинает вызывать оживление). Эти чувства производит эмоциональная сеть, и она же, взаимодействуя с другими системами мозга, контролирует их интенсивность и определяет их вероятный источник.

Чувства могут быть побочным продуктом мыслей: вы вспоминаете, что надвигается срок сдачи работы, и чувствуете беспокойство; вы представляете себе хороший финансовый отчет — и радуетесь. Но чувства иногда возникают и бессознательно, так, что вы не знаете их причину. Предчувствие — вовсе не загадочное «шестое чувство». Это — реальная неврологическая реакция, которая проявляется физически.

Она «получается» так. По мере того как в мозг поступает информация о событиях, решениях и людях, он все это маркирует по эмоциональной значимости. Когда потом человек оказывается в аналогичной ситуации, мозг по этим маркировкам находит самый короткий путь к «нужным» чувствам — сомнению, тревоге, радости. Допустим, после того как вы отведали перец чили, вы не спали ночь, не в силах избавиться от жжения во рту. Позже при виде и запахе чили и даже упоминании о нем (или о ресторане, где вы его отведали) ваша сеть эмоций будет производить негативные чувства, повинуясь которым, вы, не рассуждая, не захотите снова пробовать перец.

Эти эмоции сопровождаются изменениями физического состояния: учащается пульс, выступает пот, вырабатываются кортизол и другие гормоны, кровь приливает к лицу, кожа покрывается мурашками. Все это обычно происходит помимо нашего сознания (см. врезку «Правда ли, что мозг успевает понять, что к чему, раньше нас?»).

Руководители обычно считают, что принимать решения надо с холодной головой, не ­поддаваясь чувствам. Но растет количество научных доказательств того, что эмоциональные порывы не стоит игнорировать. Сеть эмоций ускоряет процесс принятия решений и помогает обрабатывать информацию с большим количеством переменных.

Мы и сами получили экспериментальное тому подтверждение, изучая поведение людей, у которых были повреждены эмоциональные сети мозга. Лишившись направляющей функции чувств, они решения по всем вопросам, в том числе самые по самым обыденным, принимали на основании сложного анализа затрат и выгод.

Так что догадки — дело очень полезное. Надо ли всякий раз доверять предчувствиям? Вовсе нет. Бездумно следовать своей интуиции — умалять значимость здравого смысла и не учитывать важных «погрешностей» сети эмоций, например того, что продуцируемые ею чувства не точны. Они могут, что называется, не по делу совершенно завладеть человеком — особенно негативные, вроде страха или гнева. Легко ошибиться в определении причины предчувствия и понимании его значения. Мозг может «приписать» чувство ситуации, которая напоминает предыдущее событие, но на самом деле не повторяет его. Допустим, мы неудачно сделали презентацию и потому с ужасом ждем следующей, хотя уже лучше подготовились к ней. Но стоит вспомнить, сколько труда мы затратили на эту подготовку, и уже проще преодолеть страх.

И все же нейробиология эмоций убеждает нас в том, что при всей ненадежности интуиции к предчувствиям надо относиться внимательно. Прежде всего в ситуациях, связанных с риском: дурные предчувствия могли бы насторожить руководителей, поколебать их самоуверенность или заставить усомниться в адекватности чрезмерно оптимистичных решений. Имея дело с рынками, показателями и данными, руководители получают столько информации, что интуиция кажется чем-то непрактичным. Но она незаменима.

Прислушиваться к хорошим предчувствиям мы более или менее умеем, хотя и эту способность надо развивать. Мы можем, не имея полной информации, просто почувствовать, что не стоит выходить на тот или иной рынок. Но дурные предчувствия, особенно сомнения и тревогу, мы предпочитаем отгонять. Руководители пытаются заглушать их в себе — и в своих организациях. Это понятно: испытывая неуверенность и внутреннее смятение, мы выглядим слабыми; эти эмоции порождают ощущение неопределенности, а этого не любят ни рынки, ни сотрудники. Мы хотим, чтобы все были мотивированными, целеустремленными и уверенно продвигались вперед.

Но ведь отрицательные чувства, как и все остальные, — продукт сети эмоций, а значит, за ними стоит ценный прошлый опыт. Руководителям нельзя от них отмахиваться, наоборот, нужно стараться понять, откуда они взялись. Мы не предлагаем идти на поводу у сомнений и тревог, мы предлагаем прислушиваться к ним; если не избегать их, а оценивать, результаты будут лучше.

Как формулировать достижимые цели

Хотя многие привычные дела мы можем делать на автопилоте, мы обладаем еще и замечательной способностью противостоять своим привычкам и импульсам. Мы можем тысячу раз садиться во время совещаний на один и то же стул, а в тысячу первый взять другой. Ради более высокой должности мы по своей воле отправляемся на край света, в какое-нибудь унылое захолустье. Если животные реагируют только на насущные потребности, то мы можем стремиться и к более абстрактным целям, например завоевать бòльшую долю латиноамериканского рынка или полететь на Луну, причем даже тогда, когда они идут вразрез с нашими непосредственными нуждами или противоречат нашему опыту.

За эти возможности отвечает сеть контроля. Она согласовывает активность нашего мозга и наше поведение с нашими целями. Как гендиректор может перебросить ресурсы фирмы с рухнувшего рынка на растущий, так и сеть контроля может перенаправить кровоток от участков мозга, подающих конкурирующие или неуместные сигналы к участкам мозга, которые помогают нам выполнять наши задачи. Генеральные директора могут проводить ревизию ресурсов и по-новому размещать их каждый бюджетный цикл, а сеть контроля делает это постоянно, по мере того как изменяются наши обстоятельства, формируются наши потребности и желания.

Мы намеренно спланировали свою статью так, чтобы начать с сети пассивного режима и закончить сетью контроля. Наука говорит, что это по сути взаимоисключающие силы. Чем активнее сеть контроля распределяет ресурсы ради решения задач, навязываемых внешним миром, тем меньше дел у сети пассивного режима, ведь человеку не надо отвлекаться от реального мира и переноситься в воображаемый. И наоборот.

Можно сказать, что задача сети контроля — приглядывать за всеми остальными сетями мозга. Подавляя сеть пассивного режима, она не дает нам постоянно витать в облаках. Сдерживая сеть удовольствия, она помогает нам не поддаваться соблазнам и не потакать своим слабостям, не действовать импульсивно и отказываться от сиюминутных потребностей ради более важных долгосрочных. Регулируя сеть эмоций, она обуздывает наши эмоциональные реакции, чтобы наши поступки не были продиктованы исключительно преходящими чувствами или наитием.

Кроме того, эта сеть помогает нам ориентироваться в множестве обрушивающихся на нас дел. Когда вокруг без конца звякают смс или сообщения о поступивших электронных письмах, жужжат виброзвонки телефонов и кто-нибудь претендует на наше время, нам надо уметь выделять главное и не отвлекаться на остальное.

Конечно, все не так просто. Полностью уходить в работу так же опасно, как полностью отключаться от реальности или всегда действовать по первому побуждению. В таком состоянии мы упускаем полезные для нас изменения окружающей обстановки. Если футболист зациклен на желании нанести решающий удар по воротам противника, он может и не заметить, что его товарищ по команде находится в лучшей позиции для того, чтобы забить гол, — нужно только передать ему мяч. Кроме того, игрок может забыть о том, что время матча истекает, то есть, будучи одержимым идеей гола, упустить другой, но более важный момент. С этой хитрой задачей управления вниманием как раз и имеет дело сеть контроля. С одной стороны, ей надо, чтобы мы не отвлекались на все, что блестит в поле нашего зрения. С другой — ей надо, чтобы мы реагировали, если одна из этих блестящих штуковин открывает нам новые перспективы или связана с важной потребностью.

Чтобы иметь возможность решать две эти параллельные задачи, сеть контроля себя подстраховывает. Она настраивает мозг так, чтобы реагировать на информацию, которая относится и к нашему нынешнему делу, и к нашим большим целям (то есть реагировать мы должны не на все стимулы, а на связанные с целями). Чтобы поддерживать нас в этом маневренном состоянии, сеть контроля стремится к золотой середине: она склоняет чашу весов в пользу действий, совместимых с нашими целями, но не до такой степени, чтобы мы направили на них все свои ресурсы. Это дает нам гибкость в непредвиденных обстоятельствах, но в то же время заставляет то и дело отвлекаться. Далеко не каждый игрок, мчащийся по футбольному полю, готов принять пас и находится в удобном месте для удара по воротам, и вовсе незачем нам каждую секунду смотреть на часы, проверяя, осталось ли еще время для гола.

Последние открытия, связанные с сетью контроля, подтверждают то, что лучшие из руководителей говорят о конкуренции: чтобы ­обойти соперников, не надо распыляться — важно разум­но ограничить количество стратегических инициатив, иначе их будет невозможно реализовать. Когда людей заставляют заниматься сразу несколькими задачами, их внимание рассеивается и им становится трудно делать любую работу, требующую сосредоточенности, сети контроля не хватает ресурсов и нам не удается ни одному из своих дел уделить должное внимание.

Некоторые полагают, что делать несколько дел сразу полезно — это, мол, делает ум более гибким. Но научные факты, и их становится все больше, заставляют усомниться в этом. Одно из недавних исследований Эйяла Офира, Клиффорда Нэсса и Энтони Вагнера показало, что сети контроля хронически перегруженных людей не могут отфильтровывать ненужную информацию. Таким людям не удавалось не думать о делах, которые они не делали. Какой смысл думать о том, что надо перезвонить клиенту или что на телефоне «висят» неотвеченные письма и твиты, если в данный момент вы обсуждаете с генеральным корпоративную стратегию? Мало того, что эти дела никак не связаны с вашей беседой, сейчас вы все равно не можете ими заняться.

В подтверждение того, что дела, которые мы не делаем, могут легко и полностью захватить наше внимание, подавляющее большинство из 40 опрошенных нами недавно топ-менеджеров сообщили: в «свободные» моменты они почти всегда думают о незавершенных делах. То, что наш мозг способен расставлять невыполненные задачи в порядке значимости, для нас — благо. И в то же время — проклятье.

Электронные письма, совещания, тексты, твиты, телефонные звонки — нынешняя работа, неструктурированная, нескончаемая, многосоставная, страшным бременем давит на сети контроля и поглощает невероятное количество энергии мозга. Отсюда умственная усталость, которая дает о себе знать в виде ошибок, невозможности «зрить в корень», ослабленной саморегуляции. При перегрузке сеть контроля выпускает бразды правления и наше поведение перестает соответствовать расставленным в уме приоритетам, над нами берут верх сиюминутные, ситуационные стимулы. Мы живем на автопилоте, и наш мозг «сдается» — он лишь реагирует на то, что у нас под носом, неважно, насколько это важно.

Чтобы грамотно руководить, надо прежде всего сформулировать несколько — ограниченное ­количество — первостепенных задач и, набравшись решимости, отменить или препоручить кому-нибудь все менее значимое. Кроме того, топ-менеджерам стоит подумать, насколько реалистично они представляют себе посильную рабочую нагрузку, учитывая возможности своего мозга. Этот «воз» меньше того, что большинство из нас пытается на себе везти.

Информацию о работе сети контроля стоило бы учитывать и в развитии концепции бережливой работы. «Бережливость» не означает, что надо взвалить на нескольких сотрудников основную массу работы. Чем больше дел поручают людям, тем хуже они справляются. Если ориентироваться на относительно короткий период, то, может быть, и выгодно не раздувать штат и держать сотрудников в черном теле. Но наука о мозге напоминает, что многих профессионалов уже давно заставили зайти далеко за ту грань, где задания еще выполнимы, а цели достижимы.

После того как в начале 2000-х ведущие журналы стали публиковать многочисленные статьи о нейровизуалистических исследованиях (некоторые ученые называют это время «Диким Западом нейробиологии»), критики быстро окрестили эту область знания новой френологией, имея в виду псевдоученого XVIII столетия Франца Йозефа Галля, который особенности психики связывал со строением черепа. Но нейробиология, развиваясь, обещает стать научно обоснованным и куда более сложным вариантом френологии.

Если мы хотим избавиться от ошибок прошедшего десятилетия, нам нужно соблюдать осторожность в интерпретации. И все же сейчас у нейробиологии самое интересное время, и оно обещает много новых открытий для бизнеса. К примеру, появилась методика гиперсканирования, позволяющая наблюдать за работой мозга двух людей в процессе их общения: она откроет путь к истинному сотрудничеству и обмену информацией. Новаторские исследования в области геномики мозга доказывают, что люди предрасположены к своим самым разным качествам, от понятливости до импульсивности. Наконец, нейробиологи пытаются понять, как принятие решений, способность к общению, когнитивный контроль, эмоции и другие функции изменяются на протяжении жизни. Все эти достижения подготавливают почву для в высшей степени плодотворного диалога между наукой и бизнесом.

Ученые разработали биоморфную модель нейрона для имитации работы мозга

https://ria.ru/20190911/1558497777.html

Ученые разработали биоморфную модель нейрона для имитации работы мозга

Ученые разработали биоморфную модель нейрона для имитации работы мозга — РИА Новости, 11.09.2019

Ученые разработали биоморфную модель нейрона для имитации работы мозга

Исследовательская группа Тюменского государственного университета (ТюмГУ) разработала биоморфную (подражающую природе) модель нейрона и сформулировала… РИА Новости, 11.09.2019

2019-09-11T03:00

2019-09-11T03:00

2019-09-11T09:08

наука

тюменский государственный университет

навигатор абитуриента

университетская наука

/html/head/meta[@name=’og:title’]/@content

/html/head/meta[@name=’og:description’]/@content

https://cdn21.img.ria.ru/images/103214/21/1032142126_0:208:2000:1333_1920x0_80_0_0_a02cb3cca8d79a01cbfc9182e4318d7d.jpg

МОСКВА, 11 сен — РИА Новости. Исследовательская группа Тюменского государственного университета (ТюмГУ) разработала биоморфную (подражающую природе) модель нейрона и сформулировала концептуальные принципы построения нейронной сети на ее основе. Результаты исследования опубликованы в «Neural Computing and Applications».Разработанная модель нейрона имеет сходства с биологической не только в структурном отношении, но и функциональном. Она состоит из трех отдельных функциональных частей – дендритов, сомы и аксона и позволяет реализовывать любые соединения между ними, что придает большую гибкость архитектуре нейросети.Известно, что для возбуждения нейрона требуется электрический потенциал выше определенного порога. В предложенной модели исследователи учитывали не форму поступающего электрического импульса, а среднюю частоту следования электрических импульсов. По мнению ученых ТюмГУ, такой алгоритм прохождения сигналов дает возможность увеличить шаг по времени, и, как следствие, увеличить скорость расчета нейросети.Ранее тюменские исследователи сообщили, что в основе функционирования биоморфного нейропроцессора лежат мемристоры. Они выполняют роль синапсов (область контакта между двумя нейронами). Использование мемристоров на основе разработанной модели позволяет построить сверхбольшую биоморфную нейросеть, которая имитирует работу кортикальной колонки мозга на автономном аппаратном средстве (биоморфном нейропроцессоре).Особое внимание к кортикальной колонке неслучайно: эта структура считается элементарным модулем в системе обработки информации мозгом. По мнению исследователей, с помощью множества искусственных кортикоморфных колонок можно создать модель неокортекса головного мозга, которая не будет требовать больших вычислительных мощностей. Большая часть программных расчетов будет сделана с помощью специализированного электронного устройства.»Увеличение быстродействия и энергоэффективности расчетов биоморфной нейросети по сравнению с существующими сегодня вычислительными средствами возможно за счет применения смешанных аналогово-цифровых вычислений, в том числе с помощью мемристоров, интегрированных в наноразмерные кроссбары», — рассказал руководитель исследовательской группы, доктор физико-математических наук, профессор кафедры прикладной и технической физики ТюмГУ Сергей Удовиченко.Для проверки работоспособности биоморфной модели нейрона исследователи построили тестовую нейросеть путем последовательной сборки из функциональных блоков и начального задания связей на основе экспериментальных данных нейрофизиологии. В настоящее время при поддержке гранта РФФИ проводятся научные исследования по реализации ассоциативного самообучения и генерации новой ассоциации в аппаратной нейросети с запоминающей матрицей на основе комбинированного мемристорно-диодного кроссбара в качестве массива синапсов.

https://na.ria.ru/20180621/1523071962.html

https://ria.ru/20180919/1528827563.html

https://ria.ru/20190905/1558301122.html

РИА Новости

[email protected]

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

2019

РИА Новости

[email protected]

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

Новости

ru-RU

https://ria.ru/docs/about/copyright.html

https://xn--c1acbl2abdlkab1og.xn--p1ai/

РИА Новости

[email protected]

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

https://cdn22.img.ria.ru/images/103214/21/1032142126_223:0:2000:1333_1920x0_80_0_0_c583ab29bf7d672278a6c665fddfbb1c.jpg

РИА Новости

[email protected]

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

РИА Новости

[email protected]

7 495 645-6601

ФГУП МИА «Россия сегодня»

https://xn--c1acbl2abdlkab1og.xn--p1ai/awards/

тюменский государственный университет, навигатор абитуриента, университетская наука

МОСКВА, 11 сен — РИА Новости. Исследовательская группа Тюменского государственного университета (ТюмГУ) разработала биоморфную (подражающую природе) модель нейрона и сформулировала концептуальные принципы построения нейронной сети на ее основе. Результаты исследования опубликованы в «Neural Computing and Applications».

Разработанная модель нейрона имеет сходства с биологической не только в структурном отношении, но и функциональном. Она состоит из трех отдельных функциональных частей – дендритов, сомы и аксона и позволяет реализовывать любые соединения между ними, что придает большую гибкость архитектуре нейросети.

21 июня 2018, 09:00НаукаНейроинтерфейс: как законнектиться с искусственным интеллектом

Известно, что для возбуждения нейрона требуется электрический потенциал выше определенного порога. В предложенной модели исследователи учитывали не форму поступающего электрического импульса, а среднюю частоту следования электрических импульсов. По мнению ученых ТюмГУ, такой алгоритм прохождения сигналов дает возможность увеличить шаг по времени, и, как следствие, увеличить скорость расчета нейросети.

Ранее тюменские исследователи сообщили, что в основе функционирования биоморфного нейропроцессора лежат мемристоры. Они выполняют роль синапсов (область контакта между двумя нейронами). Использование мемристоров на основе разработанной модели позволяет построить сверхбольшую биоморфную нейросеть, которая имитирует работу кортикальной колонки мозга на автономном аппаратном средстве (биоморфном нейропроцессоре).

19 сентября 2018, 09:10НаукаРоссийские ученые создали инновационный биоморфный нейропроцессор

Особое внимание к кортикальной колонке неслучайно: эта структура считается элементарным модулем в системе обработки информации мозгом. По мнению исследователей, с помощью множества искусственных кортикоморфных колонок можно создать модель неокортекса головного мозга, которая не будет требовать больших вычислительных мощностей. Большая часть программных расчетов будет сделана с помощью специализированного электронного устройства.

«Увеличение быстродействия и энергоэффективности расчетов биоморфной нейросети по сравнению с существующими сегодня вычислительными средствами возможно за счет применения смешанных аналогово-цифровых вычислений, в том числе с помощью мемристоров, интегрированных в наноразмерные кроссбары», — рассказал руководитель исследовательской группы, доктор физико-математических наук, профессор кафедры прикладной и технической физики ТюмГУ Сергей Удовиченко.

5 сентября 2019, 08:00НаукаУченые выяснили, почему в мозгу рождаются мысли и можно ли прожить без них

Для проверки работоспособности биоморфной модели нейрона исследователи построили тестовую нейросеть путем последовательной сборки из функциональных блоков и начального задания связей на основе экспериментальных данных нейрофизиологии.

В настоящее время при поддержке гранта РФФИ проводятся научные исследования по реализации ассоциативного самообучения и генерации новой ассоциации в аппаратной нейросети с запоминающей матрицей на основе комбинированного мемристорно-диодного кроссбара в качестве массива синапсов.

Сравнение мозга с нейронной сетью / Хабр

Можно встретить много критических замечаний о том, что биологический мозг или биологические нейронные сети работают совершенно не так как ныне популярные компьютерные нейронные сети. К подобным замечаниям прибегают различные специалисты, как со стороны биологов, нейрофизиологов так и со стороны специалистов по компьютерным наукам и машинному обучению, но при этом очень мало конкретных замечаний и предложений. В этой статье мы попытаемся провести анализ этой проблемы и выявить частные различия между работой биологической и компьютерной нейронной сетью, и предложить пути улучшения компьютерных нейронных сетей которые приблизят их работу к биологическому аналогу.

Граница знаний

Прежде я хочу пояснить, почему, по моему мнению, в вопросе создания сильного искусственного интеллекта до сих пор всё так печально, не смотря на грандиозные успехи в компьютерных науках и знаниях о биологическом мозге. Прежде всего, это связано с большой идеологической пропастью между этими двумя столпами науки. Компьютерные науки требуют некой схематичной простоты, строгости и лаконичности в описании систем, некого системного подхода, в отбрасывании лишнего и чёткой структуризации достаточной для оформления в программном коде. В биологии же главенствует подробность описания наблюдаемых систем, ничто не может быть отброшено или проигнорировано из наблюдений. В описываемые системы должны быть включены все наблюдаемые факты. Поэтому биологам сложно применять системный подход к своим обширным знаниям для создания алгоритмов мозга. Ведь чтобы создать конструктив самолёта потребовалось очень многое пересмотреть и отбросить из образа птицы.

С другой стороны легко понять учёных и инженеров, которые при погружении в изучение компьютерных нейронных сетей из описания принципов работы мозга довольствуются коротким абзацем текста о нейроне, который с помощью синапсов на дендритах «слушает» другие нейроны и по единичному аксону передаёт результат вычислений суммации по слою дальше, не применяя к этим знаниям никакой критической оценки. Даже нейробиологи применяют формальный нейрон Маккаллока — Питтса при описаний принципов работы биологического нейрона, но делают они это по другой причине, по причине того что нет достойных альтернатив, нет в биологии чёткого описания того что делает нейрон, какую логику он выполняет, несмотря на обширные знания о нём.

Если кто-то попробует провести реинжиниринг работы мозга, то встретит целый пласт накопленных противоречивых знаний, разобраться в которых фактически не хватит жизни даже биолога, не говоря уже о системном инженере который привычен к более другой форме знаний. Работать с таким объёмом информации возможно только через призму некой общей теории работы мозга, которой пока нет.

Человечество обладает технологиями колоссальных вычислительных мощностей и гигантским объёмом знаний о мозге, но не может получить синтез этих вещей. Давайте же попытаемся решить эту проблему и сотрём эту границу знаний.

Мозг это должно быть просто

Первый очень важный принцип, которым следует руководствоваться – это идея того, что мозг должен работать по неким очень простым правилам, т.е. все когнитивные процессы какими бы сложными они не казались, основаны на простых базовых принципах. Это отличается от того, что мы привыкли слышать о мозге. Длительное отсутствие общей теории работы мозга породило множество спекуляций на тему того, что мозг — некий непостижимо сложный объект, или природа его работы выходит далеко за рамки тех научных методов изучения, которые к нему применяют. К примеру, сравнивают мозг с квантовым компьютером, или незаслуженно приписывают отдельным нейронам свойства сложных вычислителей, что вкупе с их количеством в нервной системе делают требования к вычислительным мощностям для моделирования мозга не достижимыми.

На мой взгляд, ученых, которые высказываются о том, что Человечеству никогда не постичь сложность человеческого мозга нужно лишать научных степеней, подобные высказывания только могут подрывать боевой дух людей которые захотят посвятить себя решению этой проблемы.

Так что же свидетельствует в пользу простоты работы мозга? Здесь я приведу совершенно парадоксальный пример. Если взять виноградную улитку и подвести электроды к одному нейрону её крупного ганглия, согласно всем требованиям, которые применяются к подобным экспериментам, то мы сможем получить график активности отдельного нейрона, и попытаемся проанализировать его, то получим очень сложный характер его активности. Даже если учтём характер инвазивности нашего эксперимента, то что наши электроды приносят улитки серьёзные повреждения и ограничение её жизнедеятельности, то характер активности нейрона всё равно выглядит очень сложным. Мы увидим и спонтанную активность, и изменение в количестве и частоте спайков с течением времени. Многие учёные бьются над объяснением этого сложного поведения нейрона на протяжении уже долгого времени, ища какую-либо закономерность в этом.

Эти факты делают нейрон неким сложным вычислителем, работающим по сложному алгоритму. Учитывая, что таких нейронов в нервной системе улитки насчитывается около 20 тысяч, то можно сказать, что вычислительная мощь нервной системы рядовой улитки сопоставима с мейнфреймом. Я думаю это должно вселить в Вас трепет перед этими животными. Но давайте посмотрим, насколько сложно поведение улиток. Улитка – это некий биологический автомат, да у него существует некая степень вариативности поведения, но она очень мала. Это набор безусловных рефлексов, зачастую очень простых, которые можно объяснить уже имеющимися знаниями о нейронах, синапсах и рефлекторных актах и здесь не будет места сложным вычислениям.

В подтверждение выше изложенного хочу сделать отсылку к моей прошлой статье, в которой описывается модель головастика лягушки, в которой благодаря нервной системе из нескольких десятков нейронов можно получить достаточно сложное поведение водоплавающего существа. Причём из очень простых нейронов, модель которых основана на известных в науке фактах.

Так откуда берётся это сложное поведение нейрона, и зачем их такое большое количество? Здесь на самом деле одно вытекает из другого. В природе существует парадоксальное явление, которое можно назвать парадоксом эффективности нейрона. Оно заключается в том, что с увеличением и усложнением нервной системы эффективность или роль отдельного нейрона в этой системе падает.

Если мы проанализируем нервную систему кольчатого червя c.elegans, животного, чей коннектом из 301 нейрона полностью составлен, то увидим, что не только отдельные нейроны важны в правильной работе его нервной системы, но и имеют значения даже отдельные синапсы. То есть мы можем присвоить отдельному нейрону кольчатого червя 100% эффективности. Если рассматривать с этой точки зрения нервную систему человека, то сложно присвоить нейронам значимое значение эффективности которые можно вынести ломиком из черепной коробки, при этом сохранив жизнедеятельность человека и даже его социальную интеграцию, ну почти сохранив.*

*отсылка к очень известному случаю Финеаса ГейджаВикипедия

Регулярно можно увидеть статьи, в которых описывается случаи, где люди, живущие полноценной жизнью и социально адаптивны, вдруг обнаруживают, что их мозг лишён каких-либо областей или долей. Не удивительно, что такие факты порождают идеи того, что дело вовсе не в нейронах, да и вообще не в мозге.

Если наблюдать за активностью здорового мозга, то мы не увидим никаких лишних нейронов, каждый нейрон будет задействован, в разной степени, конечно, каждому будет присвоена своя роль. Как это делает мозг, какой должен быть алгоритм нейрона, чтобы это происходило, при низкой эффективности нейрона, я поясню ниже.

Парадокс эффективности нейрона можно объяснить тем, что при увеличении количества нейронов в нервной системе уменьшается «внимание» процессов эволюции к отдельным нейронам. Поэтому нейроны кольчатого червя, можно выразиться, работают как часы, очень точно, нейроны же виноградной улитки и Человека такой точностью похвастаться не могут, в их работе можно увидеть и спонтанную активность так и отсутствие ответа там, где он должен быть, так и его нестабильность.

Итак, на сложную активность нейрона можно представить две теории: нейрон – это сложный вычислитель, алгоритм работы которого сложно понять и обосновать, либо нейрон просто работает очень нестабильно, что компенсируется его избыточным количеством, что является самым простым решением с точки зрения эволюции. Примените к этим теориям правило бритвы Оккама, согласно которой нужно оставить идеи которые имеют самое простое объяснение и вероятнее всего эти идеи будут верными.

С одной стороны парадокс эффективности нейрона даёт нам позитивную надежду, что необходимых вычислительных мощностей для моделирования мозга потребуется значительно меньше, чем при прямой оценке по количеству нейронов и синапсов в мозге человека. С другой стороны это очень сильно усложняет изучение биологического мозга. Мы можем создать достаточно подробную модель небольшого фрагмента коры мозга, затратив большие вычислительные мощности и в этой модели не увидеть каких-либо значимых процессов, которые указывали бы на то, как протекают когнитивные механизмы в нервной системе. Такие попытки уже проводились.

На первый взгляд самый простой и прямолинейный подход в создании общей теории работы мозга – это создание подробной модели мозга, в соответствии с множеством научных фактов известных о нейроне и синапсах. Моделирование – это самый практичный научный инструмент в изучении каких-либо сложных систем. Модель буквально раскрывает суть изучаемого объекта, позволяет погружаться и влиять на внутренние процессы, протекающие в моделируемой системе, давая возможность их глубже понимать.

У нейрона нет никаких исключительных органелл, которые производили бы вычисления, но его мембрана имеет ряд особенностей, и позволяют выполнять нейрону определённую работу. Это работу можно определить с помощью системы уравнений называемой моделью Ходжкина-Хаксли, которая была разработана в 1952 году, за что её авторы получили нобелевскую премию.

Эти формулы содержат несколько коэффициентов определяющих некоторые параметры мембраны нейрона, такие как скорость реакции ионных каналов, их проводимость и т.д. Эта волшебная модель описывает сразу несколько явлений, помимо изменения заряда на поверхности мембраны нейрона. Во-первых, она описывает функцию активации нейрона, или механизм суммации, он достаточно прост. Если исходный заряд недостаточен, то модель остаётся в равновесном состоянии. Если заряд переходит через определённый порог, то модель отвечает одним спайком. Если заряд в значительной степени превышает данный порог, то модель отвечает серией спайков. В компьютерных нейронных сетях используется большое разнообразие вариантов функции активации, самые близкое к биологии может являться функция Хевисайда (единичная ступенька) и линейный выпрямитель (Rectifier). Но нужно понимать, что мы описываем достаточно простой аспект работы нейрона – суммацию. В своей работе над головастиком, упомянутой выше, я применил очень простой вариант модели суммации, который образно можно представить в виде сосуда накапливающего в себе фактор побудительного воздействия, если этот фактор превышал определённый порог, то нейрон активизировался. Чтобы этот сумматор работал в реальном времени, из образного сосуда фактор воздействия медленно истекал.

Эта модель суммации позволяла производить суммацию сигналов, которые приходили на нейрон асинхронно, и она достаточно реалистично работает. На мой взгляд, чем проще описывать этот процесс, тем лучше, и это непринципиальное отличие биологических и компьютерных сетей.
Во-вторых, модель Ходжкина-Хаксли описывает изменение заряда в одной точке мембраны, но если мы, к примеру, создадим топологически точную 3D модель нейрона и разобьём эту модель на равномерную сетку, мы сможем применить модель Ходжкина-Хаксли в каждой вершине (узле) этой сетки, с условием влияния заряда на значение в соседних вершинах по сетке. Тем самым мы получим модель распространения возбуждения по нейрону близко к тому, как это происходит в живом нейроне.

Главные выводы, которые можно сделать из этой модели, это то, что возбуждение, возникнув на любом участке мембраны, распространяется на всю мембрану, в том числе распространяется по длинному аксону к самым удалённым синапсам. Модель Ходжкина-Хаксли очень ресурсозатратна поэтому для целей моделирования используют менее затратные модели с очень схожими графиками, таких придумано несколько моделей.

В рамках проекта Human Brain Project (HBP) была создана модель небольшого фрагмента коры мозга мыши, её создатели учли очень многое. 3D модели нейронов были воссозданы по реальным нейронам, использовался один из вариантов моделей Ходжкина-Хаксли, учитывались различные типы нейронов и нейромедиаторов, и нет сомнений в том, что модель действительно соответствует биологическому аналогу. На это потрачено множество ресурсов и времени, но так и не дало значимых результатов по причине того, что в столь малом размере из-за парадокса эффективности нейрона невозможно было увидеть значимых процессов. Поэтому путь подробного повторения биологии является очень и очень трудоёмким. Залог успеха это возможность понимания того как работает нервная ткань и нейроны в более широком масштабе.

Давайте рассмотрим то как мозг обрабатывает информацию на частном примере, на обработке зрительной информации. Мы составим схему нейронной сети выполняющей эту задачу.

Информация с сетчатки глаза по зрительному нерву передаётся в таламус, там информация практически не подвергается значимым преобразованиям. Далее она передается в первичную зрительную зону коры головного мозга (V1). В коре головного мозга выделяют шесть слоёв, но эти слои по гистологическим или морфологическим признакам. Вероятно, здесь мы имеем дело с двумя слоями, так как некоторые структуры повторяются дважды. Но и при этом мы имеем дело скорее не с двумя отдельными самостоятельными слоями, слоями нервных клеток работающих в тандеме.

Охарактеризуем зону зрительной коры V1 как первый слой, в котором происходит обработка информации. Зона V1 также имеет обратные связи с таламусом. Подобные обратные связи имеются и между всеми последующими слоями. Эти связи формируют циклические передачи возбуждения между слоями называемыми реверберациями.

После зоны V1 информация передаётся в следующую зону V2, все последующие зоны будут иметь меньшие площади. В зависимости от того, что наблюдает мозг, был это объект, символ, лицо человека, место или что-то другое информация из V2 может передаваться в различные области V3, V4, V5. То есть уже на этой зрительной области V2 происходит серьёзная категоризация зрительных образов. И примерно уже на третьем или четвёртом слое можно будет выделить нейроны-детекторы определённых образов. К примеру, мы сможем выделить нейрон-детектор буквы «А», цифры 3 или лица Дженнифер Энистон. По активации этих нейронов-детекторов мы сможем судить об том, что в данный момент наблюдает мозг. Достаточно простая архитектура нейронной сети, если сравнить её с архитектурой компьютерных нейронных сетей специализированных на распознавании визуальных образов, свёрточных нейронных сетей.

AlexNet

Есть схожие моменты, это иерархия свёрточных слоёв, каждый последующий слой будет иметь всё меньшее количество параметров. Но у слоёв данного типа компьютерных сетей нет рекуррентных связей, конечно, их наличие не является критерием для успешного распознавания образов, так как природа ревербераций в живом мозге до конца не изучена. Есть гипотеза, что реверберации связаны с явлением моментальной памяти, той памяти, которая позволяет нам, к примеру, не сбиться при наборе номера телефона или его произношении. Реверберирующая активность как бы задерживается, обозначая участки, по которым проходит эта активность, тем самым создается контекст обрабатываемой информации.

Человек может распознать сложные образы за доли секунд, скорость распространения потенциала действия по мембране от 1 до 120 м/с, синаптическая задержка в химических синапсах составляет 0,2-0,5мс, что говорит о том, что за время распознавания может задействоваться цепочка не более чем ста нейронов.

Вышеописанное говорит о том, что в нашей черепной коробке присутствует нейронная сеть, работающая быстрее и эффективнее любой компьютерной нейронной сети, при этом организованна она относительно просто, выполняющая не сложные преобразования информации. Понимание этого и подстрекает производить поиск алгоритма сети, который бы выполнял задачу распознавания образов с применением значительно меньших вычислительных ресурсов, чем современные нейронные сети.

Формальный нейрон

Ещё со школьных лет меня волновала идея создания искусственного интеллекта, свои интерес я удовлетворял изучением литературы по нейрофизиологии, и об искусственных нейронных сетях я ничего не знал. С нейронными сетями я познакомился позже, будучи уже студентом. Знакомство с формальным нейроном Маккалока-Питса, который является основой для всех современных нейронных сетей меня озадачило и разочаровало, из-за большого акцента на дендритных синапсах.

Формальный нейрон Маккалока-Питса можно представить как некую функцию с множеством аргументов и одним ответом. Аргументы-входы преумножаются с соответствующими коэффициентами, называемыми весами (W1, W2,… Wn), затем эти значения складываются и полученная сумма проходит через активационную функцию, результат которой и является результатом вычислений нейрона. Главное это правильно подобрать веса, то есть обучить нейронную сеть. Эта модель нейрона может показаться простой и очевидной, но в ней сильный акцент на дендритных синапсах.

В химическом синапсе можно выделить две важные части: это пресинапс и постсинапс. Пресинапсы расположены на концах длинного единичного отростка аксона, который может многократно разветвляться. Пресинапс представлен в виде небольшого уплотнения на кончиках, он относится к нейрону, который передаёт возбуждение. Постсинапсы расположены на коротких ветвистых отростках дендритах, они принадлежат нейрону, которому передается возбуждение.

В пресинапсе расположены везикулы, пузырьки с порциями вещества нейромедиатора. Именно в пресинапсах прежде была выявлена неравнозначность синапсов, пресинапсы различаются по количеству порций нейромедиатора хранящегося в нем, а также по количеству выделяемого нейромедиатора при его активации. Вес или силу пресинапса обозначим буквой S.

На поверхности мембраны постсинапса расположены рецепторы, которые реагируют на нейромедиатор. Количество этих рецепторов определяет, то насколько синапс будет чувствителен. То есть постсинапс также можно охарактеризовать некоторой характеристикой, весом. Обозначим этот вес буквой A. Конечно, можно эти два параметра представить как один W, определяющий силу всего синапса, но эти параметры при обучении должны настраиваться по-разному и они относятся всё-таки к разным нейронам.

Такое представление нейрона более реалистичное, но при этом оно сильно усложняется, так как теперь предстоит понять, как настраивать все эти параметры при обучении.

Хочу представить мою версию того по какому алгоритму происходит изменения в постсинапсах, то есть дендритных синапсах. Он основан на том, что биологическому нейрону требуется поддержание определённого уровня активности. Дело в том, что нейрон как клетка очень ресурсозатратна для организма, он не может самостоятельно питаться, за него это делают клетки-спутники, глии. Поэтому если нейрон по каким-то причинам не выполняет своих функций, то лучший вариант это избавиться от него в целях эффективности всего организма. При длительном отсутствии активаций в нейроне может запуститься процесс апоптоза, этот процесс активно поддерживают клетки-спутники, буквально разрывая и растаскивая нейрон на части. Поэтому чтобы выжить нейрону в условиях недостаточного источника активаций приходится развивать ветви дендритов, увеличивать чувствительность синапсов на дендритах и иногда даже мигрировать в другие участки (это происходит крайне редко и в определённых условиях), ну или производить спонтанную активность. Об этом свидетельствуют, к примеру, зрительные или слуховые галлюцинации у людей, чьи органы зрения или слуха подвергнуты депривации, или деградации вследствие старения. Об этом подробней пишет Оливер Сакс в своей книге «Человек, который принял свою жену за шляпу».

Оливер Сакс о галлюцинациях
Подвижные нейроны

С другой стороны, чрезмерная активность нейрона также может привести к его гибели. Активность нейрона — это очень сложный процесс, который требует чёткого выполнения множества механизмов, и любой сбой их выполнения приведёт к фатальным последствиям для всей клетки. Если источники активности избыточны, то нейроны начинают процесс деградации некоторых ветвей дендритов и снижения чувствительности своих постсинапсов. Таким образом, нейрон пытается найти некий баланс, в уровне своей активности, регулируя дендритные синапсы. Нейрон, выступающий как самостоятельный агент, действующий в своих интересах, обеспечивает удивительную адаптивность и пластичность всего мозга. Несмотря на парадокс эффективности нейрона, здоровый мозг работает очень слажено, и каждый нейрон играет свою роль. Нейроны зрительных зон коры головного мозга слепых людей благодаря этому механизму будут вовлечены в другие нервные процессы, не связанные с обработкой зрительных образов. А избыточность в количестве нервных клеток делает нервную систему очень надёжной и при повреждении некоторых участков нервной ткани, нейроны могу взять на себя функции и роли потерянных клеток.

Исходя из этой версии, дендритным синапсам отводится роль, влияющая на адаптивные качества всей нервной системы, а не какие-то логические функции которые и определяют когнитивные процессы.

Для изменений в пресинапсах синапсов аксона уже существует алгоритм, так называемое правило Хебба.

Если аксон клетки А находится достаточно близко, чтобы возбуждать клетку B, и неоднократно или постоянно принимает участие в ее возбуждении, то наблюдается некоторый процесс роста или метаболических изменений в одной или обеих клетках, ведущий к увеличению эффективности А, как одной из клеток возбуждающих В.

Hebb, D. O. The organization

of behavior: a neuropsychological theory. New York (2002) (Оригинальное издание — 1949) (

спасибо

)

Привожу здесь полный текст правила Хебба потому, что существует его множество трактовок, меняющих его смысловое значение.

Как видим, акцент отводится нейрону, который передаёт возбуждение, то есть на синапсах аксона, а не дендритных синапсах принимающего нейрона. Пресинапс и постсинапс безусловно влияют друг на друга. К примеру, при дефиците активаций нейрон прежде будет увеличивать чувствительность того постсинапса, который чаще используется. А в случае необходимости снижения уровня активации будут прежде деградировать те постсинапсы, которые использовались реже всего. Это связано с важностью сохранения логики научения при адаптивных процессах.

Если мы хотим создавать искусственную нейронную сеть, то можно пренебречь адаптивными механизмами, всё-таки биологические системы более требовательны к экономии ресурсов каждым элементом, нежели искусственные модели.

Получается, что в основу компьютерных нейронных сетей положена модель нейрона, у которой акценты расставлены наоборот, нежели чем у биологического нейрона. Поэтому и не стоит рассчитывать на качественный результат в развитии этого направления. Но понимая эти проблемы, можно изменить ситуацию, нужно перестроить концепцию нейронных сетей заново, пересмотреть ее, заложив верный фундамент.

Анализ и Синтез

Нейрофизиология это молодая еще не зрелая наука, в ней нет ещё строгих фундаментальных законов подобно законам в физике, хоть в ней присутствуют большое количество теорий и фактов. Мне кажется, такими законами могут являться постулаты и принципы рефлекторной теории Ивана Петровича Павлова. Их можно сравнивать с законами Ньютона в физике. При создании новых теорий в нейрофизиологии мы должны задаваться вопросами: как в рамках нашей теории происходят и формируются рефлексы, а также как проявляются процессы синтеза и анализа.

Анализ и синтез требуют отдельного внимания. Эти понятия кажутся очень абстрактными, но это конкретные процессы которые протекают в нервной системе. И.П. Павлов считал, что анализ и синтез непрерывно протекают в коре головного мозга. Эти процессы являются базой для когнитивной деятельности. Я попытаюсь доступно донести, что это за процессы, это очень важно для того, чтобы воссоздать когнитивные процессы в нейронных сетях.

Синтез – это механизм объединения, обобщения различных признаков в один образ или действие.

Пример из экспериментов И.П. Павлова:
Специально подготовленному модельному животному – собаке, изолированной от иных внешних раздражителей и обездвиженной (заневоленой) при кормлении включают звук метронома, который ранее для неё был индифферентен, безразличен. После нескольких таких сочетаний у собаки выработается условный рефлекс, то есть на звук только метронома у модельного животного может вырабатываться желудочный сок, как при кормлении.

Анализ – это механизм выделения, ранжирования (предания рангов, значимости) каждого признака из ограниченного набора признаков.

Пример из работ И.П. Павлова:
Ранее обученному модельному животному, у которого сформирован условный рефлекс на звук метронома выработка желудочного сока, меняют условия эксперимента, теперь животные получает пищу при звуке метронома 120 ударов в минуту, а при звуке 160 ударов в минуту не будут подкреплять ничем. Сначала выученный пищевой условный рефлекс срабатывал на оба звука метронома, но стечением множества повторений, причём значительно большего количества раз, чем при эксперименте с синтезом, собака начинает различать эти два очень сходных раздражителя и перестает реагировать на звук метронома с частотой, которая не подкреплялась.

Давайте качественно сравним эти два когнитивных процесса.

Синтез – это относительно быстрый механизм потому, что требует малого количества примеров, в свою очередь, Анализу требуется значительно больших повторений. Синтез может протекать в некоторой пассивной форме, то есть здесь главное одновременное сочетание раздражителей или признаков, чтобы их можно было объединить. Для Анализа всегда требуется эмоциональное подкрепление или некая обратная связь, которая будет определять, каким признакам повысить или понизить важность, ранг. Синтез всегда предшествует Анализу, то есть признаки должны сначала быть объедены в группу, внутри которой уже может производиться ранжирование (процесс анализа).

Анализ всегда приводит к сокращению количества ошибок, так как придаёт данным дополнительную информативность: ранги или значимость отдельных признаков. Чистый Синтез создаёт множество ошибок, так как приводит к снижению информативности исходных данных, объединив, обобщив их в единые группы.

Теперь вооружившись пониманием этих процессов, проанализируем компьютерные нейронные сети на их наличие.

Обратное распространение ошибки – это чистый Анализ, это процесс ранжирования входов нейронов по результатам работы всей нейронной сети. Синтеза как механизма в нейронных сетях нет. У каждого нейрона изначально уже сформирована группа входов, эта группа никак не меняется в процессе научения по принципу Синтеза. Может возникнуть ложное представление присутствия Синтеза в нейронных сетях благодаря их возможности классификации данных, но это результат работы механизма Анализа над данными. Синтез это способность обобщения, слияния данных, а не объединения в группы по общим признакам.

Как следствие, высокой способности к обобщению, которая свойственна человеческому интеллекту, так сильно не хватает компьютерным нейронным сетям, и это компенсируется необходимостью использовать большое количество примеров при обучении.

Надо понимать, что у алгоритмов, в которых присутствует акцент на Анализе, всё равно будет существовать преимущество в определённых задачах. К примеру, в задаче поиска закономерностей в большом количестве данных, или распознавании лиц из миллионной базы с современными нейронными сетями не сравнится уже никакой алгоритм. Но в задаче, где требуется применять опыт, полученный на небольшом количестве примеров в различных и разнообразных ситуациях, к примеру, задача автопилота, то здесь требуются другие новые алгоритмы, основанные на Синтезе и Анализе, подобно тому, как это происходит в мозге.

Вместо заключения

То, чем я занимаюсь – это поиск новых алгоритмов, это создание моделей, основанных на вышеизложенных принципах. Я вдохновляюсь изучением биологического мозга. Этот путь проходит через череду неудач и заблуждений, но с каждой новой моделью я получаю ценный опыт и становлюсь ближе к своей цели. В будущем я постараюсь поделиться некоторым своим опытом на примере разбора конкретных моделей. Разберем, как на практике я применяю свои знания о нервной системе.

Сейчас я поставил себе задачу создать алгоритм нейронной сети, которая сможет различать рукописные цифры из стандартного набора MNIST, причём при обучении должно использоваться не более 1000 примеров и предъявлений. Результат я буду считать удовлетворительным при хотя бы 5% ошибке. Я уверен это возможно потому, что наш мозг делает нечто подобное. Напоминаю, что MNIST содержит 60 000 примеров обучения, которые для настройки нейронной сети могут предъявлять по несколько десятков раз.

С тех пор, как я стал писать о своих идеях и работе на хабре – гиктаймс, ко мне стали обращаться люди с похожими идеями и стремлениями, люди для кого мои статьи оказались вдохновляющими на собственные изыскания. На меня это также оказывает положительный мотивирующий фактор. Сейчас время возможностей, когда необязательно быть академиком или деятелем науки, чтобы создавать новые технологии или решать фундаментальные задачи. Один из таких искателей, как и я, Николай — он самостоятельно создаёт некую платформу для моделирования нервной системы простейшего животного, проект «Дафния». Проект открыт, и желающие могут подключиться.

In English on Medium: Comparison of the brain with a computer neural network

Изучен ключевой фактор формирования нормальных нейронных сетей

Сотрудники Института биологии и биомедицины ННГУ им. Н.И. Лобачевского исследовали особенности развития и функционирования нейронных сетей культуры клеток головного мозга мыши в условиях хронической активации и блокады одной из наиболее значимых для нейронов систем — тирозинкиназных рецепторов В типа. Они необходимы для реализации функций сигнальной молекулы под названием нейротрофический фактор головного мозга, связанной с развитием и адаптацией клеток головного мозга к неблагоприятным факторам, влиянием на архитектуру нейронной сети и ее функциональные перестройки.

Понимание принципов формирования нейронных сетей и адаптивных возможностей нервной системы позволит создать в недалеком будущем фундаментальную платформу для разработки эффективного способа коррекции различных патологий центральной нервной системы, в том числе ишемии и нейродегенеративных заболеваний.

Ученые провели функциональные и структурные исследования нейронных сетей в культурах клеток головного мозга, а также провели анализ биологических данных и выявили значимые изменения структуры нейронной сети при воздействии на систему TrkB рецептора. Они смогли спрогнозировать эффекты, оказываемые этой системой на нейронные сети. Авторы продемонстрировали, что активация системы TrkB рецепторов посредством ежедневного добавления в культуру клеток фактора BDNF приводит к формированию более сложных функционально активных нейронных сетей с высоким уровнем эффективности передачи нервных импульсов по сети. Ученые предполагают, что система TrkB рецепторов может играть ключевую роль в реализации высших функций нервной системы, таких как научение и память.

Полученные результаты важны не только для понимания фундаментальных механизмов работы мозга, но и обладают медицинским потенциалом. В частности, они являются важной частью дальнейших комплексных исследований по разработке новых методов диагностики и терапии центральной нервной системы в условиях стресса.

Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще.

Пресс-релизы о научных исследованиях, информацию о последних вышедших научных статьях и анонсы конференций, а также данные о выигранных грантах и премиях присылайте на адрес [email protected].

Нейропластичность: как заставить мозг лучше работать :: Здоровье :: РБК Стиль

© absolutvision/unsplash

Автор Ирина Рудевич

05 декабря 2019

Ученые утверждают, что, тренируя мозг посредством нового опыта, можно восстановить его после повреждений и достичь многого в личном развитии. Рассказываем о том, как этого можно добиться.

Магия нейронов

Цепочки нейронов, нервных клеток мозга, отвечающих за передачу информации, регенерируются, как и ткани организма. Известны случаи, когда люди возвращались к привычной жизни после черепно-мозговых травм и инсульта. Доктор Селеста Кэмпбелл, нейропсихолог из Ветеранского медицинского центра в Вашингтоне, утверждает, что в результате взаимодействия с окружающей средой происходят физиологические изменения в головном мозге. Это и есть нейропластичность. Помимо нее существует концепция нейрогенеза, в соответствии с которой мозг может не только менять имеющиеся связи и создавать новые, но и выращивать нейроны.

С момента рождения и в течение всей жизни клетки реорганизуются в соответствии с потребностями человека, позволяя адаптироваться к происходящему. Мозг можно сравнить с компьютером, но последний работает на неизменных алгоритмах, которые требуют обновлений программного обеспечения. Процесс построения новых нейронных связей происходит постоянно, но если его стимулировать, то клетки будут обновляться быстрее, а способности — развиваться активнее.

Нейропластичность и психология

Эксперты по нейропластичности Кристофер А. Шоу и Джилл К. МакИчерн считают, что нейропластичность — это фундаментальный процесс, который описывает изменения нервной активности в мозге. Специалисты делят область исследований на две части: функциональную и структурную. Первая описывает изменения в синапсах (нейронах) за счет обучения и развития, вторая — силу связей между ними. Нейропластичность интересна не только химикам и нейробиологам, но также психологам, так как предполагает потенциальные возможности для изменений в обучении, поведении и настроении.

Если постоянно выполнять одни и те же действия, полагаясь на привычные реакции, то человек рискует начать жить «на автомате». Так работа превращается в рутину, а отношения с близкими и эмоциональное состояние переходят в застойный режим. Специалисты изучают возможности преодоления шаблонов мышления, потому что постоянная практика способна внести существенные изменения в структуру и функции мозга.

Учеба для нейронов

Без смены привычек и в отсутствие новых знаний человек использует малую часть нейронов. Нейробиолог Ричард Дэвидсон организовал Институт здорового мышления и совместно с его специалистами провел ряд исследований. Ученый считает, что люди способны целенаправленно создавать связи в мозге, помогающие стать счастливее. При этом у каждого из нас наиболее активны различные участки мозга. Например, в соответствии с исследованиями Дэвидсона, у оптимистов лучше развита определенная область префронтальной коры головного мозга. Нейробиолог указывает, что при помощи специальных упражнений можно справиться с болью, стрессом и депрессией, активируя нейронные связи, которые отвечают за ощущение радости.

Семь дней счастья

Нейропластичность уникальна тем, что новые способности возникают почти мгновенно, но для устойчивости цепочек нейронов нужно минимум семь дней тренировок. Причем этого времени достаточно для человека любого возраста, хотя с годами скорость восприятия информации может снижаться. Ричард Дэвидсон считает, что достаточно потратить полчаса в день, чтобы научиться новому и закрепить эти знания. Когда человек сталкивается с задачей, которую раньше не приходилось решать, мозг активирует скрытые ресурсы. Таким упражнением может быть что угодно — от нового маршрута с работы домой до изучения иностранного языка.

Аэробика для мозга

© alice achterhof/unsplash

Исследователь Лоренс Кац создал направление для тренировки мозга — нейробику. Эта практика помогает формировать новые, более эффективные связи для развития и самочувствия человека. В основе тренировок — смена шаблонов, которая затрагивает пять органов чувств. Упражнения можно выполнять без специальной подготовки, в любое время суток и в любом месте. Например, Кац советует начать день по-другому. Поставьте другую мелодию на будильник и заварите чай вместо кофе. Стойкую ассоциацию с запахом последнего можно перебить ароматами для дома и периодически менять их для обновления восприятия. Задействуйте тактильные ощущения и пространственную память в привычном месте: попробуйте позавтракать в тишине, если привыкли слушать музыку, или смотреть в окно, а не в монитор.

Мир вверх ногами

Если у вас насыщенный график и нет желания кардинально менять привычные вещи, Лоренс Кац предлагает посмотреть на них по-другому. На полке или столе рядом с вашим рабочим местом наверняка есть предметы, которые стоят там давно (календарь, статуэтка, фотография в рамке). Исследователь советует перевернуть их вверх ногами. Как это работает: при взгляде на вещь логическая часть мозга моментально обрабатывает информацию, а затем подключается абстрактное мышление. Если мозг определил предмет как знакомый, то ему не нужно активизировать мыслительный процесс: вещь становится «частью пейзажа» и человек не обращает на нее внимания. Непривычная картинка требует дополнительных нейронных ресурсов, подключает творческое правое полушарие и аналитику формы, сочетания цветов, качеств предмета. Такая реорганизация внесет эффект новизны и позволит сломать шаблон мышления.

Что еще можно сделать для мозга

Для полноценного восстановления мозгу нужны сон, правильное питание и спорт. По данным исследований, физическая активность влияет на настроение, самочувствие и познавательные способности. Можно начать с пеших прогулок, совместив их с поиском нового маршрута по системе «прокачки мозга» от Ричарда Дэвидсона.

Специалисты советуют применять различные техники для активизации нейропластичности. Например, на формирование новых нейронных связей позитивно влияют чтение, игра на музыкальных инструментах, путешествия и рукоделие, которое задействует мелкую моторику. Большинство этих тренировок считаются развлечениями, поэтому выбирайте занятия, которые доставляют вам удовольствие. Уже через неделю «тренировок» можно отметить изменения в восприятии, настроении и скорости мышления. 

Откуда в мозге помехи и как это мешает разработчикам искусственного интеллекта

Если бы клетки головного мозга общались друг с другом при помощи голоса, в наших головах стоял бы непрерывный гвалт. Нейроны не только постоянно обмениваются сигналами, реагируя на внешние импульсы, но и производят фоновый «шум», дергая друг друга по делу и без. Как ни странно, именно это, похоже, дает человеческому интеллекту преимущество перед искусственным. Опираясь на исследования ученых из Франкфуртского университета, Флоридского университета нейронауки имени Макса Планка и Миннесотского университета, главный редактор журнала Nautilus Майкл Сигал объясняет, как нестабильность живых нейронных сетей связана с мышлением и воображением. T&P публикуют перевод с некоторыми сокращениями.

Одну из главных проблем современного искусственного интеллекта можно проиллюстрировать на примере желтого школьного автобуса. Если он изображен со стороны лобового стекла, обученная нейронная сеть безошибочно его распознает. Если он лежит на боку поперек дороги, алгоритм с большой уверенностью предположит, что перед ним снегоочиститель. А при взгляде снизу и под углом нейросеть и вовсе решит, что это мусоровоз.

Все дело в контексте. Когда очередное изображение сильно отличается от ранее загруженных картинок, механизм распознавания запинается, даже если разница сводится к тому, что искомый объект повернут или частично перекрыт другим. Современные модели ИИ все еще не дотягивают до человеческого мозга и поэтому хуже ориентируются в непривычных ситуациях.

Шумный мозг

Компьютеры — цифровые устройства, они работают с бинарными элементами, которые могут находиться во включенном или выключенном состоянии. Исходящий сигнал нейрона тоже похож на двоичный код — нейрон в каждый момент времени либо активен, либо нет, — но «на вход» нейрон работает как аналоговое устройство: данные недискретны, и на их характеристики влияет множество факторов.

Кроме этого, построенные человеком вычислительные системы строго детерминированы: отдавая одну и ту же команду несколько раз, вы всегда получите одинаковый результат. В человеческом мозге все устроено иначе — реакция на один и тот же стимул всегда будет разной.

Возможно, все дело в ненадежной нейротрансмиссии, то есть сбоях движения сигнала в синапсах. Во время активности нейрона сигнал движется по аксону, но вероятность того, что он достигнет следующего нейрона, составляет лишь 50%. Из-за этого в системе возникают помехи.

Другой фактор — постоянная активность в самых разных отделах мозга. Например, зрительная кора активируется визуальными образами, но одновременно получает сигналы из других источников, поскольку в мозге много перекрестных соединений. Это позволяет нам ориентироваться в контексте и формировать горизонт ожиданий: так, услышав лай собаки, мы спешим настороженно обернуться, чтобы найти ее глазами.

Даже в отсутствие визуальных стимулов зрительная кора демонстрирует такую же активность, как и при их наличии, являя что-то вроде визуального воображения. Вы что-то видите, одновременно думаете о том, что видели вчера, — возможно, это тоже способствует тому, что реакция на одни и те же стимулы раз от раза меняется.

Наконец, эксперименты и модели показали, что в мозге может возникать активность, затрагивающая области, расположенные далеко друг от друга. Это обычное дело для зрелой коры, в которой связи дальнего радиуса действия сформированы анатомически. Однако даже в раннем возрасте, когда физических связей между разными областями мозга еще нет, корреляция между их активностью уже наблюдается.

Откуда шум?

Любопытно, что паттерны спонтанной активности нейронов складываются на ранних стадиях развития мозга, еще до того, как сформировано сенсорное восприятие. Например, спонтанная активность в зрительной коре наблюдается еще до того, как ребенок впервые откроет глаза. Уже после этого воображение связывается с реальными зрительными образами.

Спонтанная активность присуща нам с раннего возраста, но ее природа пока неизвестна. Возможно, она предопределена генетически, но с большой вероятностью связана с процессом самоорганизации (как самоорганизующаяся система может формировать сложные паттерны, описывается в теории динамических систем). Можно предположить, что весь наш ум определен генами, но это невозможно:

информации в ДНК слишком мало, чтобы определить все многочисленные синаптические связи в мозге. Генетически можно закодировать лишь несколько простых алгоритмов

для ранних стадий развития мозга, которые дадут импульс созданию и развитию определенной структуры. Отправной точкой для такого процесса могут стать всего несколько основных правил — например, как нейроны формируют цепи и как активность цепи, в свою очередь, изменяет соединения в цикле обратной связи.

Зачем все так сложно

Теория аттракторных нейросетей гласит, что вся их активность сводится к конечному множеству состояний. При определенном наборе входящих сигналов сеть приходит в одно из возможных состояний; при других, но схожих, — к такому же состоянию. Это делает ее устойчивой к небольшим колебаниям сигналов и помехам. Обсуждение теории идет уже не первый год, но пока не удалось получить адекватных экспериментальных доказательств того, что мозг работает именно так. Нам бы не помешала возможность регистрировать состояние достаточно большого числа клеток мозга в достаточно стабильных условиях — а еще инструменты, которые позволили бы активировать их напрямую.

Возможно, в непредсказуемости мозга есть свой смысл.

Смотря на один и тот же предмет, мы всегда воспринимаем его немного по-разному, и именно эта изменчивость реакции на одинаковый стимул помогает обнаружить новые грани знакомых вещей.

Любое визуальное изображение состоит из тысяч деталей. Выделяя главное, мы отсеиваем ненужное. Это похоже на эволюцию, когда в результате хаотичных мутаций выживают наиболее приспособленные особи. По аналогии можно предположить, что мозг добавляет «шум», чтобы пересмотреть множество возможных изображений и найти самое подходящее для данного контекста.

Можно ли разгадать алгоритм спонтанной активности? Вероятно. Один из вариантов — изучение близнецов. Другой — наблюдение за ранними стадиями проявления спонтанной активности.

Воспроизвести помехи

Глубокие нейронные сети — наиболее успешный вид ИИ — созданы по образу и подобию человеческого мозга: у них есть нейроны, своеобразная иерархия и гибкость связей. Но о том, могут ли такие сети воспроизводить процессы, происходящие в процессе обработки сигналов мозгом, ведутся споры.

Одна из особенностей работы глубоких нейронных сетей, за которую их часто критикуют, — прямая восходящая связь: сигнал передается от входа к выходу через последовательность промежуточных уровней без какого-либо «петляния». Рекуррентные связи (например, между нейронами одного уровня) либо отсутствуют, либо смоделированы довольно грубо; как правило, нет нисходящих связей, которые бы передавали сигнал от выхода ко входу. Такие связи затрудняют обучение нейросети — но в коре головного мозга их полно! Сеть, построенная только на прямой связи, — это очень грубое упрощение, сильно отличающееся от тесно взаимосвязанных отделов мозга.

Как правило, нейронная активность в человеческом мозге — это непрерывные перекрестные «разговоры» между разными областями мозга, где сенсорный стимул играет лишь модулирующую роль.

Глубокие нейронные сети работают совсем иначе: они активизируются только при наличии исходных данных. К чему это приводит? Например, к неспособности ИИ уловить контекст: глубокая сеть обучается на определенном наборе данных и не справляется, когда появляется принципиально новая информация. В то время как, согласно одной из теорий, спонтанная активность в мозге как раз и кодирует контекст. Возможно, эта активность являет собой нейронную основу обработки визуальных образов, в ходе которой мы устанавливаем взаимосвязь между различными объектами (и их частями) в пространстве. Это предположение слегка притянуто за уши, потому что функционал этой спонтанной активности пока до конца не понятен, но уже ясно, что она может играть важную роль в интерпретации событий.

Нам остается черпать вдохновение из наблюдений за мозгом. Например, упоминавшаяся выше ненадежность синаптических связей уже сейчас эмулируется в машинном обучении для избежания «переподгонки» (ситуации, когда построенная нейросетью модель хорошо объясняет примеры из обучающей выборки, но не работает на примерах, не участвовавших в обучении. — T&P).

Где можно учиться по теме #искусственный интеллект

Нейронные сети — математический аппарат

В наши дни возрастает необходимость в системах, которые способны не только выполнять однажды запрограммированную последовательность действий над заранее определенными данными, но и способны сами анализировать вновь поступающую информацию, находить в ней закономерности, производить прогнозирование и т.д. В этой области приложений самым лучшим образом зарекомендовали себя так называемые нейронные сети – самообучающиеся системы, имитирующие деятельность человеческого мозга. Рассмотрим подробнее структуру искусственных нейронных сетей (НС) и их применение в конкретных задачах.{-ax}}$, (3)

Основное достоинство этой функции в том, что она дифференцируема на всей оси абсцисс и имеет очень простую производную:

$f’\,(x) = \alpha f(x)\,\bigl(1\,-\,f\,(x)\bigr)$, (4)

При уменьшении параметра a сигмоид становится более пологим, вырождаясь в горизонтальную линию на уровне 0,5 при a=0. При увеличении a сигмоид все больше приближается к функции единичного скачка.

Нейронные сети обратного распространения

Нейронные сети обратного распространения – это мощнейший инструмент поиска закономерностей, прогнозирования, качественного анализа. Такое название – сети обратного распространения (back propagation) они получили из-за используемого алгоритма обучения, в котором ошибка распространяется от выходного слоя к входному, т. е. в направлении, противоположном направлению распространения сигнала при нормальном функционировании сети.

Нейронная сеть обратного распространения состоит из нескольких слоев нейронов, причем каждый нейрон слоя i связан с каждым нейроном слоя i+1, т.2$, (5)

где

y_j – значение j-го выхода нейросети,

d_j – целевое значение j-го выхода,

p – число нейронов в выходном слое.

Обучение нейросети производится методом градиентного спуска, т. е. на каждой итерации изменение веса производится по формуле:

$\Delta\,w_{ij} = -\,\eta\,\cdot\,\frac{\partial\,E}{\partial\,w_{ij}}$, (6)

где h – параметр, определяющий скорость обучения.

$\frac{\partial\,E}{\partial\,w_{ij}} = \frac{\partial\,E}{\partial\,y_i}\,\cdot\,\frac{dy_i}{dS_j}\,\cdot\,\frac{\partial\,S_j}{\partial\,w_{ij}}$, (7)

где

y_j – значение выхода j-го нейрона,

S_j – взвешенная сумма входных сигналов, определяемая по формуле (1).

При этом множитель

$\frac{\partial\,S_j}{\partial\,w_{ij}} = x_i$, (8)

где

x_i – значение i-го входа нейрона.{(n)}\,(t\,-\,1)$ , (13.1)

Дополнительным преимуществом от введения момента является способность алгоритма преодолевать мелкие локальные минимумы.

Представление входных данных

Основное отличие НС в том, что в них все входные и выходные параметры представлены в виде чисел с плавающей точкой обычно в диапазоне [0..1]. В то же время данные предметной области часто имеют другое кодирование. Так, это могут быть числа в произвольном диапазоне, даты, символьные строки. Таким образом данные о проблеме могут быть как количественными, так и качественными. Рассмотрим сначала преобразование качественных данных в числовые, а затем рассмотрим способ преобразования входных данных в требуемый диапазон.

Качественные данные мы можем разделить на две группы: упорядоченные (ординальные) и неупорядоченные. Для рассмотрения способов кодирования этих данных мы рассмотрим задачу о прогнозировании успешности лечения какого-либо заболевания. Примером упорядоченных данных могут, например, являться данные, например, о дополнительных факторах риска при данном заболевании.

нет	ожирение	алкоголь	курение	гипертония

А также возможным примером может быть, например, возраст больного:

до 25 лет	25-39 лет	40-49 лет	50-59 лет	60 и старше

Опасность каждого фактора возрастает в таблицах при движении слева направо.

В первом случае мы видим, что у больного может быть несколько факторов риска одновременно. В таком случае нам необходимо использовать такое кодирование, при котором отсутствует ситуация, когда разным комбинациям факторов соответствует одно и то же значение. Наиболее распространен способ кодирования, когда каждому фактору ставится в соответствие разряд двоичного числа. 1 в этом разряде говорит о наличии фактора, а 0 о его отсутствии. Параметру нет можно поставить в соответствии число 0. Таким образом для представления всех факторов достаточно 4-х разрядного двоичного числа. Таким образом число 1010₂ = 10₁₀ означает наличие у больного гипертонии и употребления алкоголя, а числу 0000₂ соответствует отсутствие у больного факторов риска. Таким образом факторы риска будут представлены числами в диапазоне [0..15].

Во втором случае мы также можем кодировать все значения двоичными весами, но это будет нецелесообразно, т.к. набор возможных значений будет слишком неравномерным. В этом случае более правильным будет установка в соответствие каждому значению своего веса, отличающегося на 1 от веса соседнего значения. Так, число 3 будет соответствовать возрасту 50-59 лет. Таким образом возраст будет закодирован числами в диапазоне [0..4].

В принципе аналогично можно поступать и для неупорядоченных данных, поставив в соответствие каждому значению какое-либо число. Однако это вводит нежелательную упорядоченность, которая может исказить данные, и сильно затруднить процесс обучения. В качестве одного из способов решения этой проблемы можно предложить поставить в соответствие каждому значению одного из входов НС. В этом случае при наличии этого значения соответствующий ему вход устанавливается в 1 или в 0 при противном случае. К сожалению, данный способ не является панацеей, ибо при большом количестве вариантов входного значения число входов НС разрастается до огромного количества. Это резко увеличит затраты времени на обучение. В качестве варианта обхода этой проблемы можно использовать несколько другое решение. В соответствие каждому значению входного параметра ставится бинарный вектор, каждый разряд которого соответствует отдельному входу НС.

Литература

• Dirk Emma Baestaens, Willem Max Van Den Bergh, Douglas Wood, «Neural Network Solution for Trading in Financial Markets», Pitman publishing
• R. M. Hristev, «Artifical Neural Networks»
• С. Короткий, «Нейронные сети: Алгоритм обратного распространения»
• С. Короткий, «Нейронные сети: Основные положения»

Как ИИ и нейробиология продвигают друг друга вперед

Кредит: Сэм Фалконер

Четан Пандаринат хочет, чтобы люди с парализованными конечностями могли дотянуться и схватиться с помощью роботизированной руки так же естественно, как и своей собственной. Чтобы помочь ему достичь этой цели, он собрал записи мозговой активности людей с параличом. Его надежда, которую разделяют многие другие исследователи, заключается в том, что он сможет идентифицировать паттерны электрической активности нейронов, которые соответствуют попыткам человека двигать рукой определенным образом, так что затем инструкцию можно будет передать в протез.По сути, он хочет читать их мысли.

«Оказывается, это действительно сложная проблема, — говорит Пандаринат, биомедицинский инженер из Университета Эмори и Технологического института Джорджии в Атланте. «Эти сигналы из мозга — они действительно сложные». В поисках помощи он обратился к искусственному интеллекту (ИИ). Он отправил записи своей мозговой активности в искусственную нейронную сеть, компьютерную архитектуру, вдохновленную мозгом, и поручил ей научиться воспроизводить данные.

Записи поступали от небольшого подмножества нейронов в головном мозге — около 200 из 10–100 миллионов нейронов, которые необходимы для движения рук у людей. Чтобы разобраться в такой небольшой выборке, компьютеру нужно было найти основную структуру данных. Это можно описать паттернами, которые исследователи называют скрытыми факторами, которые контролируют общее поведение записываемой активности. Эти усилия позволили выявить временную динамику мозга — способ, которым его структура нейронной активности меняется от одного момента к другому, — тем самым предоставив более детальный набор инструкций для движения руки, чем предыдущие методы.«Теперь мы можем очень точно сказать, с точностью до миллисекунды на миллисекунду, прямо сейчас животное пытается двигаться под этим точным углом», — объясняет Пандаринат. «Это именно то, что нам нужно знать, чтобы управлять роботизированной рукой».

Его работа — лишь один пример растущего взаимодействия между ИИ и когнитивной наукой. Искусственный интеллект, с его способностью выявлять закономерности в больших и сложных наборах данных, добился замечательных успехов за последнее десятилетие, отчасти за счет имитации того, как мозг выполняет определенные вычисления.Искусственные нейронные сети, аналогичные сетям нейронов, составляющих мозг, дали компьютерам возможность отличать изображение кошки от изображения кокоса, обнаруживать пешеходов с достаточной точностью, чтобы управлять беспилотным автомобилем, и распознавать и отвечать на сказанное слово. Теперь когнитивная наука начинает извлекать выгоду из возможностей ИИ как в качестве модели для разработки и тестирования идей о том, как мозг выполняет вычисления, так и в качестве инструмента для обработки сложных наборов данных, которые производят такие исследователи, как Pandarinath.«Технология возвращается на круги своя и снова применяется для понимания работы мозга», — говорит он. Этот цикл взаимного подкрепления, вероятно, продолжится. Поскольку ИИ позволяет нейробиологам получить более полное представление о том, как вычисления работают в мозге, эти усилия могут привести к созданию машин, которые могут стать более похожими на человеческий интеллект.

Вполне естественно, что эти две дисциплины подходят друг другу, — говорит Маниш Сахани, нейробиолог-теоретик и исследователь машинного обучения из Отделения вычислительной нейробиологии Гэтсби Университетского колледжа Лондона.«Мы фактически изучаем то же самое. В одном случае мы спрашиваем, как решить эту проблему обучения математически, чтобы ее можно было эффективно реализовать на машине. В другом случае мы рассматриваем единственное существующее доказательство того, что эта проблема может быть решена, — это мозг ».

Аналог мозга

Успехи ИИ во многом обязаны появлению более мощных процессоров и постоянно растущим объемам обучающих данных. Но концепция, лежащая в основе этих достижений, — это искусственная нейронная сеть.Эти сети состоят из слоев узлов, аналогичных нейронам. Узлы входного слоя связаны с узлами скрытого слоя с помощью ряда математических весов, которые действуют как синапсы между нейронами. Скрытый слой аналогично связан с выходным слоем. Входные данные для такой задачи, как распознавание лиц, могут быть массивом чисел, которые описывают каждый пиксель изображения лица с точки зрения того, где он попадает по 100-балльной шкале от белого к черному, или является ли он красным, зеленым или синий.Данные вводятся, затем скрытый слой умножает эти значения на веса соединений, и выдается ответ. Чтобы научить систему давать правильный ответ, этот результат сравнивается с тем, что он должен был бы быть, если бы выход был точным совпадением с входом, и разница используется для корректировки весов между узлами. Более сложная версия этого процесса, называемая глубокой нейронной сетью, имеет множество скрытых слоев. Именно такую ​​систему лондонская исследовательская компания DeepMind Technologies, принадлежащая Alphabet, материнской компании Google, использовала для создания компьютера, который победил профессионального игрока в настольной игре го в 2015 году — победа, которую многие называют победой. триумф машинного интеллекта.

Искусственная нейронная сеть — это лишь приблизительная аналогия того, как работает мозг, говорит Дэвид Сусилло, вычислительный нейробиолог из группы Google Brain Team из Сан-Франциско, Калифорния, который сотрудничал с Пандаринатом в его работе над латентными факторами. Например, он моделирует синапсы как числа в матрице, тогда как на самом деле они представляют собой сложные части биологического механизма, которые используют как химическую, так и электрическую активность для отправки или прекращения сигналов и которые взаимодействуют со своими соседями в динамических паттернах.«Вы не могли бы уйти дальше от истины о том, что на самом деле представляет собой синапс, чем одно число в матрице», — говорит Сусилло.

Тем не менее искусственные нейронные сети оказались полезными для изучения мозга. Если такая система может создавать образец нейронной активности, напоминающий образец, записанный в мозге, ученые могут изучить, как система генерирует свои выходные данные, а затем сделать выводы о том, как мозг делает то же самое. Этот подход может быть применен к любой когнитивной задаче, интересующей нейробиологов, включая обработку изображения.«Если вы можете обучить нейронную сеть делать это, — говорит Сусилло, — то, возможно, вы сможете понять, как эта сеть функционирует, а затем использовать это для понимания биологических данных».

Работа с данными

Методы искусственного интеллекта пригодятся не только для создания моделей и генерации идей, но и как инструмент для обработки данных. «Нейронные данные ужасно сложны, и поэтому часто мы будем использовать методы машинного обучения просто для поиска структуры», — говорит Сахани. Основная сила машинного обучения заключается в распознавании шаблонов, которые могут быть слишком тонкими или слишком скрытыми в огромных наборах данных, чтобы люди могли их заметить.

Вычислительный нейробиолог Дэниел Яминс разрабатывает нейронные сети, которые могут имитировать активность мозга. Фото: Сэм Фонтейон / Стэнфордский университет.

Функциональная магнитно-резонансная томография, например, генерирует моментальные снимки активности всего мозга с разрешением 1-2 миллиметра каждую секунду или около того, потенциально в течение нескольких часов. «Задача когнитивной нейробиологии заключается в том, как найти сигнал в изображениях, которые очень и очень большие», — говорит Николас Терк-Браун, когнитивный нейробиолог из Йельского университета в Нью-Хейвене, штат Коннектикут.Терк-Браун возглавляет один из нескольких проектов, направленных на поиск свежих идей на стыке науки о данных и нейробиологии.

Использование машины для анализа этих данных ускоряет исследования. «Это огромное изменение в том, как делается нейробиология», — говорит Сусилло. «Аспирантам не нужно выполнять столько бездумной работы — они могут сосредоточиться на более серьезных вопросах. Вы можете автоматизировать многие из них, и вы можете получить более точные результаты ».

Воспроизведение чувств

Создание искусственной системы, которая воспроизводила бы данные мозга, было подходом Дэниела Яминса, вычислительного нейробиолога из Института неврологии Ву Цай при Стэнфордском университете в Калифорнии.В 2014 году, когда Яминс был научным сотрудником Массачусетского технологического института в Кембридже, он и его коллеги обучили глубокую нейронную сеть предсказывать активность мозга обезьяны, когда она распознавала определенные объекты ¹ . Распознавание объектов у людей и обезьян осуществляется системой мозга, называемой вентральным зрительным потоком, которая имеет две основные архитектурные особенности. Во-первых, это ретинотопия, что означает, что пути обработки изображений в мозгу организованы таким образом, чтобы отражать то, как глаз воспринимает визуальную информацию.Во-вторых, система иерархическая; определенные области коры головного мозга выполняют все более сложные задачи, от уровня, который идентифицирует только очертания объектов, до более высокого уровня, который распознает весь объект, например автомобиль или лицо. Детали того, как работают верхние слои, плохо изучены, но в результате мозг может распознавать объект в разных положениях и при разных условиях освещения, когда он кажется больше или меньше в зависимости от расстояния до него, и даже когда он частично скрыт.Компьютеры часто сталкиваются с такими препятствиями.

Яминс и его коллеги построили свою глубокую нейронную сеть в соответствии с той же ретинотопической иерархической архитектурой, что и мозг, и показали ей тысячи изображений 64 объектов, которые различались по характеристикам, таким как их размер и положение. Когда сеть научилась распознавать объекты, она произвела несколько возможных паттернов нейронной активности. Затем исследователи сравнили эти сгенерированные компьютером шаблоны с шаблонами, записанными в нейронах обезьян, когда они выполняли аналогичную задачу.Оказалось, что версии сети, которые лучше всего распознавали объекты, имели паттерны активности, наиболее точно соответствующие таковым из мозга обезьяны. «Вы обнаружите, что структура нейронов имитирует структуру сети», — говорит Яминь. Исследователи смогли сопоставить области своей сети с областями мозга с точностью около 70%.

Результаты подтвердили, что архитектура вентрального визуального потока важна для его способности к обработке.В 2018 году Яминь и его коллеги совершили аналогичный подвиг, используя слуховую кору, в которой они создали глубокую нейронную сеть, которая смогла идентифицировать слова и жанры музыки из 2-секундных клипов с той же точностью, что и человек ² . Это помогло исследователям определить, какие области коры головного мозга выполняют распознавание речи, а какие — музыку — небольшой шаг к пониманию слуховой системы.

Нейробиологи все еще далеки от понимания того, как мозг решает такую ​​задачу, как различение джаза от рок-музыки, но машинное обучение действительно дает им способ конструировать модели, с помощью которых можно исследовать такие вопросы.По словам Яминса, если исследователи смогут разработать системы, которые работают аналогично мозгу, их конструкция может дать представление о том, как мозг решает такие задачи. Это важно, потому что у ученых часто нет рабочей гипотезы о том, как работает мозг. Заставив машину выполнить определенную задачу, они получат по крайней мере одно возможное объяснение того, как мозг достигает того же.

Следующим шагом после того, как исследователи построили гипотезу, является ее проверка. И снова модели искусственного интеллекта могут помочь, предоставляя представление об активности мозга, которое можно настроить, чтобы увидеть, какие факторы могут быть важны для выполнения конкретной задачи.Исследователи ограничены этическими соображениями с точки зрения того, насколько они могут вмешиваться в процессы в здоровом человеческом мозге, поэтому многие записи нервной активности у людей поступают из мозга людей с эпилепсией, которым необходимо удалить ткань мозга. Это потому, что электроды можно вживлять в ткани мозга, которые в любом случае будут иссечены. Модели на животных позволяют исследователям использовать более инвазивные процедуры, но есть человеческое поведение, особенно речь, которое нельзя воспроизвести у других видов.Системы искусственного интеллекта, которые могут имитировать человеческое поведение и возмущаться без этических проблем, предоставят ученым дополнительные инструменты для изучения того, как работает мозг: исследователи могут научить сеть воспроизводить речь, а затем, например, нарушать эту речь, чтобы наблюдать за происходящим.

Общие проблемы

Информатика и когнитивная наука решают некоторые важные вопросы, и разработка того, как ответить на них в любой из этих областей, может продвинуть вперед обе стороны. Один из таких вопросов — как именно происходит обучение.Нейронные сети в основном выполняют контролируемое обучение. Например, чтобы освоить распознавание изображений, им могут быть показаны изображения из ImageNet, базы данных, содержащей более 14 миллионов фотографий объектов, которые были классифицированы и аннотированы людьми. Сети развивают статистическое понимание того, что общего у изображений с одним и тем же ярлыком — например, «кошка». Когда отображается новое изображение, сети проверяют его на наличие аналогичных числовых атрибутов; если они найдут совпадение, они объявят, что это изображение кошки.

Очевидно, младенцы учатся не так, — говорит Томасо Поджио, компьютерный нейробиолог из Центра мозга, разума и машин, который является частью Массачусетского технологического института. «В первые два года жизни ребенок видит что-то порядка миллиарда изображений», — говорит он. Но лишь немногие из этих изображений помечены — только небольшая часть объектов будет активно отмечена и названа. «Мы не знаем, что с этим делать, — говорит Поджио. «Мы не знаем, как сделать так, чтобы машины учились на данных, в основном не маркированных.

Его лаборатория находится на начальной стадии проекта, который позволил бы нейронной сети выполнять обучение без учителя, извлекая закономерности из немаркированных видео. «Мы знаем, что это может сделать биология», — говорит Поджио. «Вопрос в том, как».

Яминь борется с обучением без учителя, разрабатывая программы, которые ведут себя как младенцы в игре, которые опрашивают свое окружение посредством случайных взаимодействий и постепенно развивают понимание того, как устроен мир. По сути, он кодирует из любопытства, чтобы побудить компьютер к исследованиям в надежде, что появятся новые модели поведения.

Другой нерешенный вопрос заключается в том, были ли некоторые аспекты интеллекта «установлены» эволюцией. Например, кажется, что люди предрасположены узнавать лицо как лицо; младенцы могут это делать с первых часов жизни. Возможно, предполагает Поджио, наши гены кодируют механизм для быстрого и раннего обучения этой задаче. Расшифровка правильности этой идеи может позволить ученым-программистам разработать один из способов помочь машинам учиться. И другие исследователи изучают нейронные основы морали.«Люди боятся« злых »машин, — говорит Поджио. «Вероятно, нам лучше знать, как возникает наше моральное поведение, если мы хотим создавать хорошие машины, этические машины».

Яминь говорит, что трудно понять, как только нейробиология сможет раскрыть, как работает обучение без учителя. «Если у вас нет искусственного интеллекта, если у вас нет ничего, что работает искусственно, у вас не может быть модели мозга», — говорит он. По его мнению, более вероятно, что компьютерные ученые предложат одно или несколько решений, которые затем нейробиологи смогут проверить.«Может оказаться, что они ошибаются, — говорит он, — но именно поэтому вы их проверяете».

Отвечая на эти загадки, можно создать более интеллектуальные машины, способные учиться в своей среде, и которые могут сочетать скорость и вычислительную мощность компьютеров с более человеческими способностями. Возможности компьютеров обрабатывать данные и моделировать уже привели к достижениям в области науки о мозге, которые, по мнению исследователей, будут расти. «ИИ окажет огромное влияние на неврологию, — говорит Сусилло, — и я хочу быть частью этого.”

Критика чистого обучения и того, чему искусственные нейронные сети могут научиться из мозга животных

1.

ЛеКун, Ю., Бенжио, Ю. и Хинтон, Г. Глубокое обучение. Природа 521 , 436 (2015).

ADS CAS Статья Google Scholar

2.

Курцвейл, Р. Сингулярность близка к . (Джеральд Дакворт и Ко, 2010).

3.

Моравец, Х. Дети разума: будущее роботов и человеческого интеллекта . (Издательство Гарвардского университета, 1988).

4.

Каас, Дж. Х. Неокортекс у ранних млекопитающих и его последующие разновидности. Ann. Акад. Sci. 1225 , 28–36 (2011).

ADS Статья Google Scholar

5.

Хассабис Д., Кумаран Д., Саммерфилд К. и Ботвиник М. Искусственный интеллект, вдохновленный нейробиологией. Нейрон 95 , 245–258 (2017).

CAS Статья Google Scholar

6.

Seung, S. Connectome: Как связка мозга делает нас теми, кто мы есть . (HMH, 2012).

7.

Локк, Дж. Очерк о человеческом понимании: и трактат о поведении рассудка. Завершить в одном томе с указанием автора в качестве последних дополнений и исправлений (Hayes & Zell, 1860).

8.

Кант И. Критика чистого разума . (Издательство Кембриджского университета, 1998 г.).

9.

Тененбаум, Дж. Б., Кемп, К., Гриффитс, Т. Л. и Гудман, Н. Д. Как развить разум: статистика, структура и абстракция. Наука 331 , 1279–1285 (2011).

ADS MathSciNet CAS Статья Google Scholar

10.

Haugeland, J. Искусственный интеллект: сама идея .(MIT Press, 1989).

11.

Румельхарт, Д. Э. Параллельная распределенная обработка: исследования микроструктуры познания. ЖЖ. Междунар. Представлять. Распространение ошибки. 1 , 318–362 (1986).

Google Scholar

12.

Цибенко Г. Аппроксимация суперпозициями сигмоидальной функции. Math. Control, Signals Syst. 2 , 303–314 (1989).

MathSciNet Статья Google Scholar

13.

Хорник К. Аппроксимационные возможности многослойных сетей прямого распространения. Нейронная сеть. 4 , 251–257 (1991).

Артикул Google Scholar

14.

Ли, С. Удивительный Человек-паук (1962).

15.

Antolet, S. et al. Vqa: Визуальный ответ на вопрос. В материалах Международной конференции IEEE по компьютерному зрению , 2425–2433 (2015).

16.

Белл, А.J. & Sejnowski, T. J. «Независимые компоненты» естественных сцен — это краевые фильтры. Vis. Res. 37 , 3327–3338 (1997).

CAS Статья Google Scholar

17.

Ольсхаузен, Б. А. и Филд, Д. Дж. Появление свойств рецептивного поля простых клеток путем изучения разреженного кода для естественных изображений. Природа 381 , 607 (1996).

ADS CAS Статья Google Scholar

18.

ван Хатерен, Дж. Х. и Рудерман, Д. Л. Независимый компонентный анализ последовательностей естественных изображений дает пространственно-временные фильтры, аналогичные простым клеткам первичной зрительной коры. Proc. R. Soc. Лондон. Сер. В: Биол. Sci. 265 , 2315–2320 (1998).

Артикул Google Scholar

19.

Вольперт Д. Х. Отсутствие априорных различий между алгоритмами обучения. Neural Comput. 8 , 1341–1390 (1996).

Артикул Google Scholar

20.

Йопак К. Э., Лисни Т. Дж. И Коллин С. П. Не все акулы — «плавающие носы»: различия в размере обонятельной луковицы у хрящевых рыб. Brain Struct. Функц. 220 , 1127–1143 (2015).

CAS Статья Google Scholar

21.

Апфельбах Р., Бланшар К. Д., Бланшар Р. Дж., Хейс Р.A. & McGregor, I. S. Влияние запахов хищников на хищные виды млекопитающих: обзор полевых и лабораторных исследований. Neurosci. Biobehav. Ред. 29 , 1123–1144 (2005).

Артикул Google Scholar

22.

Йилмаз М. и Мейстер М. Быстрые врожденные защитные реакции мышей на надвигающиеся визуальные стимулы. Curr. Биол. 23 , 2011–2015 (2013).

CAS Статья Google Scholar

23.

Тинберген Н. Изучение инстинкта. (Clarendon Press / Oxford University Press, Oxford, 1951). https://scholar.google.com/scholar?hl=en&as_sdt=0%2C33&q=Tinbergen%2C+N.+The+study+of+instinct.+%281951%29.&btnG=

24.

Вебер Дж. Н. и Хоэкстра Х. Э. Эволюция роющего поведения мышей-оленей (род peromyscus). Anim. Behav. 77 , 603–609 (2009).

Артикул Google Scholar

25.

Мец, Х. К., Бедфорд, Н. Л., Пэн, Ю. Л. и Хоэкстра, Х. Э. Эволюция и генетика преждевременного роющего поведения у перомискусных мышей. Curr. Биол. 27 , 3837–3845 (2017).

CAS Статья Google Scholar

26.

Langston, R.F. et al. Развитие системы пространственного представления у крысы. Наука 328 , 1576–1580 (2010).

ADS CAS Статья Google Scholar

27.

McKone, E., Crookes, K., Kanwisher, N. et al. Когнитивное и нейронное развитие распознавания лиц у людей. Cogn. Neurosci. 4 , 467–482 (2009).

Google Scholar

28.

Канвишер, Н. и Йовель, Г. Веретенообразная область лица: область коры, специализирующаяся на восприятии лиц. Philos. Пер. R. Soc. В: Биол. Sci. 361 , 2109–2128 (2006).

Артикул Google Scholar

29.

Пинкер, С. Языковой инстинкт . (Уильям Морроу и компания, Нью-Йорк, Нью-Йорк, США, 1994).

Книга Google Scholar

30.

Маркус, Г. Ф. Рождение разума: как крошечное количество генов создает сложности человеческого мышления. (Основные книги Civitas, 2004).

31.

Чен Б. Л., Холл Д. Х. и Чкловский Д. Б. Оптимизация разводки может связывать структуру и функцию нейронов. Proc.Natl Acad. Sci. США 103 , 4723–4728 (2006).

ADS CAS Статья Google Scholar

32.

Вэй, Ю., Циганков, Д., Кулаков, А. Молекулярные основы разработки нейронных карт. Ann. Акад. Sci. 1305 , 44–60 (2013).

ADS Статья Google Scholar

33.

Silver, D. et al. Общий алгоритм обучения с подкреплением, который осваивает шахматы, сёги и самостоятельно играет. Наука 362 , 1140–1144 (2018).

ADS MathSciNet CAS Статья Google Scholar

34.

Дуглас Р. Дж., Мартин К. А. и Уиттеридж Д. Каноническая микросхема для неокортекса. Neural Comput. 1 , 480–488 (1989).

Артикул Google Scholar

35.

Харрис, К. Д. и Шеперд, Г.М.Г. Неокортикальный контур: темы и вариации. Nat. Neurosci. 18 , 170 (2015).

CAS Статья Google Scholar

36.

Поджио Т., Торре В. и Кох К. Вычислительное видение и теория регуляризации. Природа 317 , 314–9 (1985).

ADS CAS Статья Google Scholar

37.

Тишбы, Н., Pereira, F. & Bialek, W. Метод информационного узкого места. http://arXiv.org/abs/physics/0004057, (2000).

38.

Лейтч, И. Дж. Размеры генома на протяжении веков. Наследственность. 99 , 121–2 (2007).

CAS Статья Google Scholar

39.

Andrychowicz, M. et al. Учимся учиться с помощью градиентного спуска с помощью градиентного спуска. Достижения в системах обработки нейронной информации 29. Lee, D.Д., Сугияма М., Люксбург Ю. В., Гийон И. и Р. Гарнетт. (ред.) 3981–3989 (Curran Associates, Inc., 2016). http://papers.nips.cc/paper/6461-learning-to-learn-by-gradient-descent-by-gradient-descent.pdf.

40.

Финн К., Аббил П. и Левин С. Мета-обучение, не зависящее от модели, для быстрой адаптации глубоких сетей. В материалах 34-й Международной конференции по машинному обучению. Vol. 70, 11261135, JMLR. org, (2017).

41.

Беллек, Г., Салай, Д.Субрамони, А., Легенштейн, Р. и Маасс, В. Долговременная краткосрочная память и обучение для обучения в сетях импульсных нейронов. Adv. Нейронная информация. Процесс. Syst . 795805 (2018).

42.

Пан С. Дж. И Янг К. Обзор трансферного обучения. IEEE Trans. Знай. данные англ. 22 , 1345–1359 (2010).

Артикул Google Scholar

43.

Ваншорен, Дж. Мета-обучение: обзор.http://arXiv.org/abs/arXiv:1810.03548(2018).

44.

Овьедо, Х. В., Бюро, И., Свобода, К. и Задор, А. М. Функциональная асимметрия слуховой коры отражается в организации местных корковых цепей. Nat. Neurosci. 13 , 1413 (2010).

CAS Статья Google Scholar

45.

LeCun, Y. et al. Обратное распространение применяется для распознавания рукописного почтового индекса. Neural Comput. 1 , 541–551 (1989).

Артикул Google Scholar

46.

LeCun, Y., Bottou, L., Bengio, Y. & Haffner, P. et al. Применение градиентного обучения для распознавания документов. Proc. IEEE 86 , 2278–2324 (1998).

Артикул Google Scholar

47.

Фукусима, К. Неокогнитрон: модель самоорганизующейся нейронной сети для механизма распознавания образов, на который не влияет смещение положения. Biol. Киберн. 36 , 193–202 (1980).

CAS Статья Google Scholar

48.

Real, E. et al. Масштабная эволюция классификаторов изображений. В материалах 34-й Международной конференции по машинному обучению. Vol. 70, 2

11.JMLR. org, (2017).

49.

Кар, К., Кубилиус, Дж., Шмидт, К., Исса, Э. Б. и ДиКарло, Дж. Дж. Доказательства того, что повторяющиеся контуры имеют решающее значение для выполнения вентральным потоком поведения распознавания основных объектов. Nat. Neurosci. 22 , 974 (2019).

CAS Статья Google Scholar

50.

Стрикленд, E. Дизайнеры ИИ находят вдохновение в мозгу крысы. IEEE Spectr. 54 , 40–45 (2017).

Google Scholar

51.

Kebschull, J. M. et al. Высокопроизводительное картирование проекций одиночных нейронов путем секвенирования штрих-кодированных РНК. Нейрон 91 , 975–987 (2016).

CAS Статья Google Scholar

Нейронные сети — отношение к человеческому мозгу и познанию | Мирослава Зеленская

Очень и очень кратко.

В наши дни технологии и мозг очень тесно связаны. Современные компьютерные приложения учитывают особенности человеческого мозга (например, в маркетинге), а человеческий мозг учитывает особенности технологий (если вам нужно направление… не беспокойтесь, есть Google Maps).

По сути, нейрон — это просто узел с множеством входов и одним выходом. Нейронная сеть состоит из множества взаимосвязанных нейронов. По сути, это «простое» устройство, которое принимает данные на входе и выдает ответ. Во-первых, нейронная сеть учится соотносить входящие и исходящие сигналы друг с другом — это называется обучением. И тогда нейронная сеть начинает работать — она ​​получает входные данные, генерируя выходные сигналы на основе накопленных знаний.

Скорее всего, первоначальной эволюционной задачей нейронной сети в природе было отделение сигнала от шума.«Шум» случайный, и его сложно встроить в рисунок. «Сигнал» — это выброс (электрический, механический, молекулярный), который уже ни в коем случае не случаен. Теперь нейронные системы в технологиях (то есть — наряду с биологическими) уже научились не только изолировать сигнал от шума, но и создавать новые уровни абстракции при идентификации различных состояний окружающего мира. То есть не просто учесть факторы, обозначенные программистами, а определить эти факторы сами по себе.

1. Вы неправильно используете термин «ИИ»?

2. Разрыв пузырей жаргона — Глубокое обучение

3. Как мы можем улучшить качество наших данных?

4. Машинное обучение с использованием логистической регрессии на Python с кодом

В настоящее время существует два направления изучения нейронных сетей.

1. Создание компьютерных моделей, которые точно повторяют модели функционирования нейронов реального мозга. Это позволяет объяснить как механизмы реальной работы мозга, так и лучше изучить диагностику / лечение заболеваний и травм центральной нервной системы.Например, в обычной жизни это позволяет нам больше узнать о том, что предпочитает человек (путем сбора и анализа данных), стать ближе к человеку, создавая более персонализированные интерфейсы и т. Д.
2. Создание компьютерных моделей, которые абстрактно повторяют модели функционирования нейронов реального мозга. Это позволяет использовать все преимущества настоящего мозга, такие как помехозащищенность и энергоэффективность, при анализе больших объемов данных. Здесь, например, набирает популярность глубокое обучение.

Подобно человеческому мозгу, нейронные сети состоят из большого количества связанных элементов, имитирующих нейроны. Глубокие нейронные сети основаны на таких алгоритмах, благодаря которым компьютеры учатся на собственном опыте, формируя в процессе обучения многоуровневые, иерархические представления о мире.

Архитектура британских программ Deepmind, по словам одного из соучредителей, основана на принципах функционирования мозга разных животных. Работая в игровой индустрии, он получил докторскую степень в Массачусетском технологическом институте и изучал, как работает автобиографическая память, как повреждения гипоталамуса вызывают амнезию.Глава Facebook AI Reasearch также видит будущее машинного обучения в дальнейшем изучении принципов функционирования живых нейронных систем и их переносе в искусственные сети. Он проводит такую ​​аналогию: мы не пытаемся делать механических летучих мышей, но мы изучаем физические законы обтекания крыла при строительстве самолетов — тот же принцип следует использовать для улучшения нейронных сетей.

Разработчики глубокого обучения всегда учитывают особенности человеческого мозга — построение его нейронных сетей, процессы обучения и памяти и т. Д., Пытаясь использовать принципы своей работы и моделируя структуру миллиардов взаимосвязанных нейронов.В результате глубокое обучение представляет собой пошаговый процесс, аналогичный процессу обучения человека. Для этого необходимо предоставить нейронной сети огромное количество данных, чтобы обучить систему четкой и точной классификации данных.

Фактически, сеть получает серию импульсов на входе и выдает на выходе, как и человеческий мозг. В каждый момент каждый нейрон имеет определенное значение (аналог электрического потенциала биологических нейронов), и, если это значение превышает пороговое значение, нейрон посылает одиночный импульс, и его значение падает до уровня ниже среднего за 2–30 мс (аналог реабилитационного процесса в биологических нейронах, так называемый рефрактерный период).При выходе из равновесия потенциал нейрона плавно начинает стремиться к среднему значению.

В целом глубокое обучение очень похоже на процесс обучения человека и имеет поэтапный процесс абстракции. Каждый слой будет иметь свой «весовой коэффициент», и этот вес отражает то, что было известно о компонентах изображений. Чем выше уровень слоя, тем более конкретными являются компоненты. Подобно человеческому мозгу, исходный сигнал при глубоком обучении проходит через уровни обработки; кроме того, требуется частичное понимание (поверхностное) до общей абстракции (глубокое), где он может воспринимать объект.

Важной частью создания и обучения нейронных сетей также является понимание и применение когнитивной науки. Это сфера, изучающая сознание и процессы в нем, сочетая в себе элементы философии, психологии, лингвистики, антропологии и нейробиологии. Многие ученые считают, что создание искусственного интеллекта — это просто еще один способ применения когнитивной науки, демонстрирующий, как можно моделировать человеческое мышление в машинах. Ярким примером когнитивной науки является модель принятия решений Канемана, определяющая, как человек делает выбор в любой момент — сознательно или нет (теперь часто используется в маркетинговом ИИ).

На данный момент самые большие проблемы при использовании глубокого обучения лежат в области понимания языка и ведения диалогов — системы должны научиться оперировать абстрактными значениями, которые описываются семантически (творчество и понимание смысла речи). И все же, несмотря на быстрое развитие этой области, человеческий мозг по-прежнему считается самым передовым «устройством» среди нейронных сетей: 100 триллионов синаптических соединений, организованных в самую сложную архитектуру.
Однако ученые считают, что в ближайшие полвека (прогнозы сильно разнятся — от 10 до 100 лет) Вселенная сможет сделать шаг в сторону искусственных нейронных сетей, превосходящих возможности человека.

Следите за обновлениями 🙂

Объяснение: Нейронные сети | MIT News

За последние 10 лет самые эффективные системы искусственного интеллекта, такие как распознаватели речи на смартфонах или новейший автоматический переводчик Google, были созданы с помощью техники, называемой «глубокое обучение».

Глубокое обучение — это фактически новое название подхода к искусственному интеллекту, называемого нейронными сетями, который входил и выходил из моды уже более 70 лет. Нейронные сети были впервые предложены в 1944 году Уорреном Маккаллоу и Уолтером Питтсом, двумя исследователями из Чикагского университета, которые переехали в Массачусетский технологический институт в 1952 году в качестве членов-основателей того, что иногда называют первым отделом когнитивной науки.

Нейронные сети были основным направлением исследований как нейробиологии, так и информатики до 1969 года, когда, согласно знаниям информатики, они были убиты математиками Массачусетского технологического института Марвином Мински и Сеймуром Папертом, которые через год стали содиректорами. новой лаборатории искусственного интеллекта Массачусетского технологического института.

Затем эта техника возродилась в 1980-х, снова потеряла свою актуальность в первом десятилетии нового столетия и вернулась, как гангстеры во втором, во многом благодаря возросшей вычислительной мощности графических чипов.

«Есть мнение, что идеи в науке чем-то похожи на эпидемии вирусов», — говорит Томазо Поджио, профессор мозга и когнитивных наук Юджина Макдермотта в Массачусетском технологическом институте, исследователь Института исследований мозга Макговерна при Массачусетском технологическом институте и директор центра Массачусетского технологического института. для мозга, разума и машин.«По-видимому, существует пять или шесть основных штаммов вирусов гриппа, и, по всей видимости, каждый из них возвращается примерно через 25 лет. Люди заражаются, у них развивается иммунный ответ, поэтому они не заражаются в течение следующих 25 лет. А еще есть новое поколение, готовое заразиться тем же штаммом вируса. В науке люди влюбляются в идею, воодушевляются ею, забивают ее до смерти, а затем получают иммунизацию — они устают от нее. Так что идеи должны иметь одинаковую периодичность! »

Важные вопросы

Нейронные сети — это средство машинного обучения, при котором компьютер учится выполнять некоторые задачи, анализируя обучающие примеры.Обычно образцы маркируются заранее вручную. Система распознавания объектов, например, могла бы получать тысячи изображений автомобилей, домов, кофейных чашек и т. Д. С этикетками и находить на изображениях визуальные паттерны, которые постоянно соотносятся с определенными этикетками.

Нейронная сеть, смоделированная на основе человеческого мозга, состоит из тысяч или даже миллионов простых узлов обработки, которые плотно связаны между собой. Большинство современных нейронных сетей организованы в слои узлов, и они имеют «прямую связь», что означает, что данные проходят через них только в одном направлении.Отдельный узел может быть подключен к нескольким узлам на нижнем уровне, от которого он получает данные, и к нескольким узлам на верхнем уровне, на которые он отправляет данные.

Каждому из своих входящих соединений узел присваивает номер, известный как «вес». Когда сеть активна, узел получает другой элемент данных — другое число — по каждому из своих соединений и умножает его на соответствующий вес. Затем он складывает полученные продукты вместе, получая одно число.Если это число ниже порогового значения, узел не передает данные на следующий уровень. Если число превышает пороговое значение, узел «срабатывает», что в современных нейронных сетях обычно означает отправку числа — суммы взвешенных входных данных — по всем его исходящим соединениям.

Когда нейронная сеть обучается, все ее веса и пороги изначально устанавливаются на случайные значения. Обучающие данные поступают на нижний уровень — входной уровень — и проходят через последующие уровни, умножаются и складываются сложным образом, пока, наконец, не попадают, радикально преобразованные, на выходной уровень.Во время обучения веса и пороги постоянно корректируются до тех пор, пока данные обучения с одинаковыми метками не будут давать одинаковые результаты.

Умы и машины

У нейронных сетей, описанных Маккаллоу и Питтсом в 1944 году, были пороговые значения и веса, но они не были расположены по слоям, и исследователи не указали какой-либо механизм обучения. Маккалоу и Питтс показали, что нейронная сеть, в принципе, может вычислить любую функцию, которую может выполнить цифровой компьютер.В результате получилось больше нейробиологии, чем информатики: суть заключалась в том, чтобы предположить, что человеческий мозг можно рассматривать как вычислительное устройство.

Нейронные сети продолжают оставаться ценным инструментом для нейробиологических исследований. Например, определенные схемы сети или правила настройки весов и пороговых значений воспроизводят наблюдаемые особенности нейроанатомии и познания человека, что свидетельствует о том, что они фиксируют что-то о том, как мозг обрабатывает информацию.

Первая обучаемая нейронная сеть, Персептрон, была продемонстрирована психологом Корнельского университета Фрэнком Розенблаттом в 1957 году.Дизайн персептрона был очень похож на дизайн современной нейронной сети, за исключением того, что у нее был только один слой с регулируемыми весами и порогами, зажатый между входным и выходным слоями.

Персептроны были активной областью исследований как в психологии, так и в молодой дисциплине информатики до 1959 года, когда Мински и Паперт опубликовали книгу под названием «Персептроны», которая продемонстрировала, что выполнение некоторых довольно распространенных вычислений на персептронах будет непрактично трудоемким.

«Конечно, все эти ограничения как бы исчезают, если вы возьмете немного более сложное оборудование, например, двухуровневое», — говорит Поджио. Но в то время книга оказала сдерживающее влияние на исследования нейронных сетей.

«Вы должны поместить эти вещи в исторический контекст», — говорит Поджио. «Они выступали за программирование — для таких языков, как Lisp. Не так давно люди все еще использовали аналоговые компьютеры. В то время было совершенно неясно, что программирование — это правильный путь.Думаю, они немного переборщили, но, как обычно, это не черно-белое изображение. Если вы думаете об этом как об этой конкуренции между аналоговыми вычислениями и цифровыми вычислениями, они боролись за то, что в то время было правильным ».

Периодичность

Однако к 1980-м годам исследователи разработали алгоритмы для изменения весов и пороговых значений нейронных сетей, которые были достаточно эффективны для сетей с более чем одним слоем, устранив многие ограничения, указанные Мински и Папертом.Поле пережило ренессанс.

Но интеллектуально в нейронных сетях есть что-то неудовлетворительное. Достаточное обучение может изменить настройки сети до такой степени, что она сможет с пользой классифицировать данные, но что означают эти настройки? На какие особенности изображения смотрит распознаватель объектов и как он объединяет их в отличительные визуальные подписи автомобилей, домов и кофейных чашек? Глядя на веса отдельных связей, мы не ответим на этот вопрос.

В последние годы компьютерные ученые начали придумывать гениальные методы для вывода аналитических стратегий, используемых нейронными сетями.Но в 80-е годы стратегии сетей было невозможно расшифровать. Поэтому на рубеже веков нейронные сети были вытеснены машинами опорных векторов — альтернативным подходом к машинному обучению, основанным на очень чистой и элегантной математике.

Недавнее возрождение нейронных сетей — революция глубокого обучения — произошло благодаря индустрии компьютерных игр. Сложные изображения и быстрый темп современных видеоигр требуют оборудования, способного не отставать, и результатом стал графический процессор (GPU), который объединяет тысячи относительно простых процессорных ядер на одном чипе.Исследователям не потребовалось много времени, чтобы понять, что архитектура графического процессора удивительно похожа на архитектуру нейронной сети.

Современные графические процессоры позволили однослойным сетям 1960-х годов и двух- или трехуровневым сетям 1980-х годов превратиться в современные 10-, 15- и даже 50-уровневые сети. Вот что означает «глубокое обучение» в «глубоком обучении» — глубина слоев сети. И в настоящее время глубокое обучение отвечает за самые эффективные системы почти во всех областях исследований искусственного интеллекта.

Под капотом

Непрозрачность сетей по-прежнему беспокоит теоретиков, но и в этом направлении есть успехи. Помимо руководства Центром мозга, разума и машин (CBMM), Поджио возглавляет исследовательскую программу центра в области теоретических основ интеллекта. Недавно Поджио и его коллеги из CBMM опубликовали теоретическое исследование нейронных сетей, состоящее из трех частей.

Первая часть, которая была опубликована в прошлом месяце в International Journal of Automation and Computing , касается диапазона вычислений, которые могут выполнять сети с глубоким обучением, и когда глубокие сети предлагают преимущества перед более мелкими.Вторая и третья части, выпущенные в виде технических отчетов CBMM, посвящены проблемам глобальной оптимизации или гарантии того, что сеть нашла настройки, которые наилучшим образом соответствуют ее обучающим данным, и переобучению, или случаях, в которых сеть становится настроенной таким образом. к особенностям его обучающих данных, которые он не может обобщить на другие экземпляры тех же категорий.

Есть еще множество теоретических вопросов, на которые нужно ответить, но работа исследователей CBMM может помочь гарантировать, что нейронные сети наконец разорвут цикл поколений, который приносил им пользу и выходил из него на протяжении семи десятилетий.

Neural Networks — обзор

Dream-Like Neural Network Processing

ANN предназначены для включения операций на основе нейронных ячеек общей обработки включения-выключения, множественных соединений, нескольких уровней и динамической обратной связи, происходящей во временной последовательности или в искусственные псевдовременные пространства. Эти процессы включают связанные процессы ассоциативной, многоуровневой памяти и когнитивной обратной связи. Для многих людей сновидения обеспечивают обратную связь с пониманием когнитивных функций ЦНС, особенно функций, которые происходят во время сна.Обработка нейронной сети, принимая сновидческие процессы когнитивной обратной связи и многоуровневой ассоциативной памяти, является попыткой пародировать биологические процессы сновидения.

Обратная связь нейронной сети, однако, гораздо более специфична в ее попытке управлять дискретными точками данных. Системы, разработанные в настоящее время, включают гораздо меньшее количество искусственных нейронов, чем биологические системы. Таким образом, достигаемые уровни сложности довольно низкие. Однако, как уже отмечалось, даже на уровнях низкой сложности в строго контролируемых системах, использующих несколько уровней нейронной обратной связи, дискретный и ограниченный анализ данных трудно обучить и контролировать.Неполное обучение становится серьезной проблемой, если приводит к нарушению работы систем, управляемых ИИ, таких как автомобили.

Системы искусственного интеллекта также отличаются от биологических систем тем, что они спроектированы и структурированы для достижения поставленных целей. Компьютерные программисты и инженеры, такие как Лейбниц, склонны рассматривать роль систем ИИ как прикладных калькуляторов, управляющих серией механических операций для достижения желаемых результатов (целей). Постановка целей менее характерна для сновидений, хотя это важная часть процесса, называемого инкубацией сновидений.Инкубация — это традиционное и освященное веками использование сновидений, при котором человек засыпает, учитывая проблему, с которой сталкивается во время бодрствования. ⁹ Некоторые люди связывают этот процесс с попыткой достичь контроля над процессом принятия решений (осознанности) в состоянии сна. Художники, режиссеры, музыканты, ученые и особенно писатели рассказывают о таких целенаправленных мечтах, которые приносят полезные и часто творческие результаты. ¹⁰ Но большинство снов, даже самые полезные с творческой точки зрения, не включают в себя поставленные цели и не отражают целенаправленное поведение.

Машины ведут учет своего опыта, включая историю выполнения низкоуровневых инструкций и коррелированных входов / выходов на самых высоких уровнях. Эта история может быть сохранена, а может и не сохранена. При использовании в системах с мягкой нечеткой логикой или в обученном ИИ эта история может обеспечить основу для получения новых и потенциально творческих результатов даже на основе анализа данных с жесткими ограничениями.

Опыт и обучение машины ИИ определяют реакцию машины ИИ. Системы искусственного интеллекта на основе нейронных сетей могут только окончательно реагировать на стимулы, которым они обучены.Комбинации реальных числовых стимулов, шума и частичного или неполного обучения делают нарушение работы ИИ-машины более вероятным по мере увеличения искусственной нейронной плотности. Обработка, разработанная нейронной сетью, может давать значительную часть результатов, которые можно рассматривать как неопределенные или галлюцинаторные. Биологические сновидения часто неопределенны, а иногда и галлюцинаторные, особенно в начале сна, возникающие сразу после засыпания. Биологические сны, особенно кошмары, кажутся реальными, и, рассматриваемые как таковые, их можно рассматривать как галлюцинаторные, предоставляя альтернативную и очевидно реальную версию реальности.Примерно три из восьми результатов, полученных с помощью простой обработки нейронной сети, являются неопределенными или галлюцинаторными. Такие полученные результаты часто рассматриваются как свидетельство неисправности оборудования, гипотетические и неприменимые к реальной ситуации.

Анализ данных, проводимый с использованием систем нечеткой логики, ИИ и нейронных сетей, даже анализ, основанный на установленных и контролируемых целях, с гораздо большей вероятностью приведет к неожиданным результатам, чем система, основанная на параметрической и строго контролируемой логике.Такие результаты часто являются нестандартными, неопределенными и / или галлюцинаторными. Эти результаты, вместо того, чтобы указывать на неисправность машины, указывают на уровень сложности и гибкости системы. Для взаимодействия с интерактивными системами, которые часто работают вне логических ограничений (люди), может быть важно включить и включить такие альтернативные и явно нелогичные результаты. Является ли антропоморфизмом рассмотрение и, возможно, описание таких результатов как машинные сны?

Глубокие нейронные сети открывают то, что мозг любит видеть — ScienceDaily

Открытие глаз немедленно обеспечивает визуальное восприятие мира — и это кажется таким простым.Но процесс, который начинается с попадания фотонов на сетчатку и заканчивается «зрением», далеко не прост. Фундаментальная задача мозга при «видении» — восстанавливать релевантную информацию о мире по свету, который попадает в глаза. Поскольку этот процесс довольно сложен, нервные клетки мозга — нейроны — также сложным образом реагируют на изображения.

Экспериментальные подходы к характеристике их реакции на изображения оказались сложными отчасти потому, что количество возможных изображений бесконечно.В прошлом основополагающие идеи часто возникали из стимулов, которые «нравились» нейронам мозга. Их поиск полагался на интуицию ученых и хорошую долю удачи.

Исследователи из Медицинского колледжа Бейлора и Тюбингенского университета в Германии разработали новый вычислительный подход для ускорения поиска этих оптимальных стимулов. Они построили глубокие искусственные нейронные сети, которые могут точно предсказать нейронные реакции, производимые биологическим мозгом на произвольные визуальные стимулы.Эти сети можно рассматривать как «виртуальный аватар» популяции биологических нейронов, который можно использовать для анализа нейронных механизмов ощущений. Они продемонстрировали это, синтезируя новые изображения, которые заставляли определенные нейроны очень сильно реагировать.

Их исследование было опубликовано сегодня в журнале Nature Neuroscience .

«Мы хотим понять, как работает зрение. Мы подошли к этому исследованию, разработав искусственную нейронную сеть, которая предсказывает нейронную активность, возникающую, когда животное смотрит на изображения.Если мы сможем построить такой аватар визуальной системы, мы сможем проводить над ним практически неограниченное количество экспериментов. Затем мы можем вернуться и протестировать реальный мозг с помощью метода, который мы назвали «начальные петли», — сказал старший автор доктор Андреас Толиас, профессор и заведующий кафедрой нейробиологии Фонда Брауна в Бейлоре.

Чтобы сеть узнала, как реагируют нейроны, исследователи сначала записали большой объем мозговой активности с помощью мезоскопа, недавно разработанного крупномасштабного функционального микроскопа для визуализации.

«Во-первых, мы показали мышам около 5000 естественных изображений и записали нейронную активность тысяч нейронов, когда они видели изображения», — сказал первый автор доктор Эдгар Ю. Уокер, бывший аспирант лаборатории Толиаса, а теперь доктор наук. в Unviersty Тюбингена и Бейлора. «Затем мы использовали эти изображения и соответствующие записи активности мозга, чтобы обучить глубокую искусственную нейронную сеть, имитирующую реакцию реальных нейронов на визуальные стимулы».

«Чтобы проверить, действительно ли сеть научилась предсказывать нейронные реакции на визуальные образы, как это сделал бы мозг живой мыши, мы показали сетевые изображения, которых она не видела во время обучения, и увидели, что она предсказывает биологические нейронные реакции с высокой точностью», сказал соавтор д-р.Фабиан Синц, адъюнкт-профессор нейробиологии в Baylor и руководитель группы в Тюбингенском университете.

«Эксперименты с этими сетями выявили некоторые аспекты зрения, которых мы не ожидали», — сказал Толиас, основатель и директор Центра нейробиологии и искусственного интеллекта в Бейлоре. «Например, мы обнаружили, что оптимальным стимулом для некоторых нейронов на ранних стадиях обработки в неокортексе были шахматные доски или острые углы в отличие от простых краев, чего мы и ожидали в соответствии с нынешней догмой в этой области.«

«Мы думаем, что эту схему подгонки высокоточных искусственных нейронных сетей, проведения над ними вычислительных экспериментов и проверки полученных прогнозов в физиологических экспериментах можно использовать для исследования того, как нейроны представляют информацию по всему мозгу. Это в конечном итоге даст нам лучшее представление о том, как сложные нейрофизиологические процессы в мозге позволяют нам видеть », — сказал Синц.

История Источник:

Материалы предоставлены Медицинским колледжем Бейлора . Примечание. Содержимое можно редактировать по стилю и длине.

Это ваш мозг… и это ваш мозг как нейронная сеть | Меган Диббл

Некоторые концепции биологии

В вашем мозгу есть нейроны, которые обрабатывают информацию. Они принимают новую информацию, обрабатывают ее, а затем передают сигналы — электрические и химические. (Если у вас есть опыт работы в области биологии, прошу прощения за чрезмерное упрощение, которое здесь происходит.)

Нейроны связаны друг с другом аксонами. Это ваш мозг : миллиарды нейронов, связанных вместе, образуют сложную сеть. Информация проходит через несколько связанных нейронов в ответ на стимулы, которые получает ваше тело. Примером стимула может служить ваша рука, касающаяся горячей горелки, которая быстро запускает нейроны для передачи сигнала, запускающего реакцию вашего тела на отвод руки назад.

Срабатывание нейронов мозга (из Гавардского университета на GIPHY.com)

Чтобы дать вам представление о масштабах этой сложной сети нейронов, вот отрывок из книги «Глубокое обучение с TensorFlow 2 и Keras:

«… Наши глаза связаны с областью мозга, называемой зрительной корой (V1) … Было подсчитано, что V1 состоит из около 140 миллионов нейронов, между которыми находятся десятки миллиардов связей.Затем V1 подключается к другим областям (V2, V3, V4, V5 и V6), выполняя все более сложную обработку изображений и распознавая более сложные концепции, такие как формы, лица, животные и многое другое. Было подсчитано, что существует около 16 миллиардов нейронов коры головного мозга человека, и около 10-25% коры головного мозга человека посвящено зрению [7]. (Gulli, Antonio, Kapoor, Amita, Pal, Sujit, Kindle Locations 955–959).

Перенос данных в компьютер

Теперь, вместо того чтобы думать о нейроне как о маленькой клетке в вашем мозгу, давайте представим его как функцию, которая принимает выходные данные других нейронов и выдает число от 0 до 1.

Точно так же, как несколько реальных нейронов мозга связаны друг с другом, как показано выше, несколько искусственных нейронов связаны друг с другом.

Каждый столбец нейронов (представленных кружками) в GIF ниже называется слоем . На последнем слое число от 0 до 1 (представленное оттенком бирюзового) для каждого нейрона показывает, насколько вероятно наблюдение классифицировано с определенной меткой. Под наблюдением я подразумеваю набор переменных 1–4, a.к.а. одна строка в таблице.

No related posts.