Искусственный интеллект научился манипулировать финансовыми решениями людей

Искусственный интеллект может научиться распознавать недостатки в привычках и поведении людей и использовать их, чтобы оказать влияние на его решения. В частности, это касается и решений по обмену/предоставлению средств. Об этом говорить в исследовании, опубликованном в журнале “Proceedings of the National Academy of Sciences”.

Так, во время эксперимента машина научилась выявлять уязвимые места в том, как люди принимают решения, анализируя их ответы. В результате робот научился направлять участников исследования к определенным действиям. В общем исследователи провели несколько экспериментов.

В первом из них участники нажимали на красные или синие поля. Искусственный интеллект при этом изучал шаблоны выбора людей и пытался заставить их сделать конкретный выбор. В этом случае машине удавалось это сделать в 70% случаев.

Второй эксперимент предполагал, что участники должны смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать ее, когда показывают другой символ (например, синий круг). В этом случае машина решила организовать такую ​​последовательность символов, чтобы участники делали больше ошибок. Это в основном удавалось — люди ошибались на 25% чаще.

В третьем эксперименте было проведено несколько раундов, в которых участники играли роль инвестора, который передает средства администратору (им был искусственный интеллект — Ред.). Затем машина возвращала определенную сумму человеку, а тот решал, сколько денег вложить в следующий раунд. Машина со своей стороны пыталась придержать как можно больше денег, а потом, в другом раунде, распределить их справедливо между собой и инвестором. Искусственному интеллекту удавалось добиваться успеха в обоих случаях.