Искусственному интеллекту, оказывается, нужно… спать, как и людям. Иначе он будет многое забывать и путать. О "сне" для компьютеров рассказывал Огоньку в том числе ведущий российский сомнолог, член американского и европейского научных сообществ по изучению сна, главный научный сотрудник Института проблем экологии и эволюции им. А.Н. Северцова РАН Владимир Ковальзон.
— Мы изучаем особые компьютерные нейронные сети, которые учатся так же, как живой мозг,— рассказывает ученый из Лос-Аламосской лаборатории Нью-Мексико Йизинг Уоткинс.— Оказалось, что для их полноценной работы нужно применять особый алгоритм, который имитирует сон у человека. Мы были очарованы перспективой обучения нейроморфного процессора способом, аналогичным тому, как люди и другие биологические системы учатся у окружающей среды в детстве.
Такое интригующее заявление прозвучало на недавней Международной конференции по компьютерному распознаванию образов (CVPR). Уложить спать искусственный интеллект пришло в голову специалистам, которые много лет занимаются изучением особого типа нейронных сетей — импульсных. В отличие от других искусственных нейронных систем эти по своему строению наиболее близки к человеческому мозгу, поэтому иногда их еще называют нейроморфными. Чтобы усовершенствовать такие сети, специалисты Computer Science работают в тесном взаимодействии с нейрофизиологами и биологами, которые занимаются исследованием процессов, протекающих в мозге.
— Идея «сна» для компьютера далеко не нова,— рассказывает «Огоньку» ведущий российский сомнолог, член американского и европейского научных сообществ по изучению сна, главный научный сотрудник Института проблем экологии и эволюции им. А.Н. Северцова РАН Владимир Ковальзон.— Еще в 1970 году американский компьютерщик Дьюэн писал, что иногда компьютеры (которые тогда занимали целые залы) самопроизвольно переставали выходить на связь с оператором и некоторое время жили какой-то «внутренней жизнью», а затем вновь возвращались к «реальности». Такие состояния он сравнивал с медленным и быстрым сном человека. Но когда быстродействие машин возросло, сообщения о подобных перерывах исчезли. Похоже, что «электронные мозги» современных роботов не нуждаются ни в каком сне.
Сонная сеть
Импульсные нейронные сети, которые изучали в Лос-Аламосской лаборатории, действительно похожи на человеческий мозг. В очень приближенной форме можно сказать, что они имитируют работу нейронных сетей мозга человека: состоят из своеобразных нейронов, соединенных синапсами, которые обмениваются короткими импульсами одинаковой амплитуды. А обучение нейронной сети происходит благодаря изменению проводимости этих синапсов. По сути, это разросшаяся многоуровневая сеть взаимосвязанных нейронов, которые взаимодействуют особым образом. Так вот, ученые обнаружили, что после определенного периода работы импульсная нейронная сеть начинает давать сбои, которые невозможно устранить.
Специалисты перепробовали все возможные варианты и напоследок решили применить совсем уж странный, как показалось вначале, метод — сымитировать для нейронной сети сон. Они не стали выключать компьютер из розетки, а изобрели способ ввести искусственный интеллект в состояние с очень низким энергопотреблением, подобное тому, в которое человеческий мозг входит во сне. Для этого ученые использовали воздействие особого гауссовского шума — звуковых волн, настроенных на определенную частоту. После того как нейронная сеть провела в такой «полудреме» несколько часов, работоспособность системы восстановилась.
— Это выглядело так, как будто бы мы дали нейронным сетям возможность хорошо выспаться,— говорит Йизинг Уоткинс из Лос-Аламосской лаборатории.
По словам исследователя, новый алгоритм имитирует для искусственного интеллекта медленный сон, который омолаживает биологические нейроны в нашем собственном мозге и позволяет нейронной сети «предотвратить галлюцинации нейронов в случайном шуме, который они ищут».
— Удивительно, но оказывается, что медленный сон необходим любой нервной сети с импульсами,— делится старший автор исследования Гаррет Кеньон.— Видимо, несмотря на эволюцию, это необходимое условие для любого организма с нервной системой, чтобы иметь возможность учиться у окружающей среды.
В ближайшем будущем научная группа собирается «усыпить» нейроморфный чип Intel Loihi, который имитирует нейронную структуру человеческого мозга и включает 130 тысяч нейронов.
Не забыть все
— Восстанавливающая ценность сна может быть важным недостающим звеном в современных компьютерных системах,— говорит профессор медицины Калифорнийского университета в Сан-Диего Максим Баженов.— Например, системам искусственного интеллекта не хватает способностей к непрерывному обучению и они могут «забывать» старый опыт при изучении новой информации.
В лаборатории Баженова занимаются изучением связи сна и памяти. Недавно ученые провели эксперименты на вычислительных моделях, которые имитируют разные фазы сна и бодрствования, и выяснили, что сон обрабатывает новые воспоминания и предотвращает повреждение более старых.
Воспроизведение памяти во время сна играет защитную роль против забывания, позволяя одной и той же популяции нейронов хранить несколько мешающих воспоминаний.
— Мозг очень занят, когда мы спим, повторяя то, что мы узнали в течение дня,— говорит Максим Баженов.— Сон помогает реорганизовать воспоминания и представить их наиболее эффективным способом. Наши результаты показывают, что воспоминания динамичны, а не статичны. Другими словами, воспоминания, даже старые, не являются окончательными. Сон постоянно обновляет их.
Новое исследование показывает, что сон необходим человеку для сохранения памяти и для непрерывного, а главное — эффективного обучения, и, скорее всего, компьютерным и роботизированным системам будут нужны схожие варианты отдыха.
Впрочем, другие ученые считают, что перед тем, как предлагать какие-то решения для искусственного интеллекта, нужно разобраться с естественным.
— Связь памяти и сна — очень модная сегодня тема, и под нее почему-то в США выделяют большие средства, хотя на самом деле она не доказана,— комментирует сомнолог Владимир Ковальзон.— Об этом недоразумении не так давно написал специальную статью мой коллега, американский сомнолог Джерри Сигел. Одни гипотезы связывают процессы формирования запоминания и забывания в большей степени с медленным сном, другие — с быстрым. В том, что такой связи нет, можно убедиться, если внимательно посмотреть на результаты клинических исследований последних лет. Например, в мире сегодня живут миллионы людей, у которых быстрого сна нет (или почти нет), а память при этом не только не страдает, но даже улучшается! В первую очередь я говорю о тех пациентах, кто много лет принимает антидепрессанты: большинство этих лекарств, как известно, подавляет быстрый сон и сновидений такие люди не видят. Наоборот, люди, длительно принимающие снотворные последнего поколения, не нарушающие структуру ночного сна, часто жалуются на ухудшение памяти. Не менее яркие примеры дают уникальные больные, тщательно исследованные и описанные в научной литературе. Один из них был почти лишен быстрого сна с юности, когда получил ранение в голову. Другой вообще не спал и не испытывал потребности во сне в течение многих месяцев. Ни у того, ни у другого никаких нарушений памяти и когнитивных способностей отмечено не было.
По словам Владимира Ковальзона, память — ее возникновение и, главное, потеря — сегодня остается одним из наиболее загадочных явлений в науке и медицине. До сих пор нет никакого объективного критерия для ее изучения: никто толком не знает, какие физические или биохимические компоненты являются показателями памяти. Возможно, такие параметры будут открыты искусственным интеллектом.
Если только он хорошенько выспится…
Источник: Огонек № 33 (5628) от 24.08.2020