В DeepMind научили нейросеть с памятью ориентироваться в метро

Татьяна Новак

Cотрудники компании DeepMind создали дифференциальный нейронный компьютер (DNC), который способен сохранять информацию в памяти и использовать ее для решения структурированных задач. DNC уже смог проложить оптимальный маршрут в лондонском метро, предварительно запомнив его карту, пишет Wired.

В DNC учёным DeepMind удалось соединить возможности вычислительного компьютера с возможностями самообучающейся нейронной сети. «Как обычный компьютер, он может использовать свою память для обработки сложных структур данных, а как нейронная сеть, он может обучаться на них», — объясняет CEO DeepMind Демис Хассабис.

Обычные нейронные сети тоже могут научиться ориентироваться в транспортной системе, но для этого учёные должны «скормить» им данные карты много раз. «Загрузив фрагмент информации в нейронную сеть, вы не можете просто оставить его там на неопределённое время. В какой-то момент он будет перезаписан и нейросеть, в сущности, забудет о нём», — пишет автор исследования Алекс Грейвз. Он объясняет, что DNC работает иначе: загрузив в систему карту метро Лондона, он может не только её хранить, но и использовать для составления маршрута. А полученные при этом навыки компьютер может затем применить в похожей ситуации — например, для составления маршрута в парижском метро. «Это важный тип памяти, которого не хватало нейронным сетям», — объясняет Грейвз.

В этом видеоролике учёные показали, как DNC находит родственника по сохранённой в памяти схеме генеалогического дерева:

Подробнее об исследовании можно прочитать в журнале Nature.

Загрузить еще