Исследователи из DeepMind выяснили, при каких условиях ИИ-боты будут сотрудничать
Учёные из DeepMind, исследовательского филиала Alphabet, выяснили, при каких условиях два алгоритма с искусственным интеллектом (ИИ) при взаимодействии выберут антогонистическую или кооперативную модель поведения.
Исследователи проверили способность к сотрудничеству двух ИИ-алгоритмов на примере простых видеоигр. В первой игре два игрока должны собирать яблоки из центральной кучи. Они имеют возможность поразить своего конкурента лазерным лучом, который на время лишает его сил и дает первому игроку возможность собрать больше яблок. Эксперимент показал, что ИИ могут корректировать свою стратегию в зависимости от условий среды: например, если яблок много, то они редко пользуются лазерным лучом, а если мало — то конкурируют за каждое и при любом удобном случае выводят конкурента из стоя.
Однако, когда в игру ввели ИИ с большей вычислительной мощностью, выяснилось, что он выбирает конкурентную модель поведения независимо от условий. По мнению авторов, это самое интересное открытие в данном исследовании, и оно требует дальнейшего изучения.
Также учёные проверили, как будут взаимодействовать два алгоритма с искусственным интеллектом в условиях «социальной дилеммы» — игре, где все участники проигрывают, если ведут себя эгоистично. По условиям игры, два игрока должны ловить одну мишень. И при поимке очки получал не только тот игрок, который поймал, но и второй. Оказалось, что в таких случаях два ИИ быстро выбирают стратегию сотрудничества.
Авторы пишут, что благодаря подобным исследованиям мы сможем лучше понять принцип работы сложных многоагентных систем, таких как экономика, транспортная система и даже экосистема нашей планеты.