Еще каких-то 5 лет назад человечеству искусственный интеллект казался изобретением будущего. Тем не менее на сегодняшний день он уже прочно вошел в нашу повседневную жизнь. Более того, большие языковые модели и другие системы искусственного интеллекта научились обманывать. Об этом, кстати, писатели-фантасты предупреждали многие десятилетия.
О том, что искусственный интеллект научился обманывать людей заявили учёные Массачусетского технологического института.
Они проанализировали данные некоторых моделей ИИ и обнаружили, что компьютеры умеют блефовать в покере, обманывать людей и использовать определенные уловки, чтобы получить преимущество в финансовых переговорах.
Об этом сообщает Yahoo News.
"Системы искусственного интеллекта уже способны обманывать людей. Обман - это систематическое побуждение других к ошибочным убеждениям для достижения любого результата, отличного от истины. Большие языковые модели и другие системы искусственного интеллекта уже научились во время обучения способности обманывать с помощью таких методов, как манипуляция, подхалимство и мошенничество", — пишут авторы исследования.
По словам Питера Парка, исследователя из Массачусетского технологического института, который специализируется на искусственном интеллекте, в отличие от традиционного программного обеспечения, программы ИИ не кодируются, а разрабатываются посредством процесса, аналогичного селекционному разведению растений. При этом поведение, кажущееся предсказуемым и контролируемым, может быстро стать непредсказуемым по своей природе.
По мнению ученых, если не устранить неполадки, то однажды искусственный интеллект совершит мошенничество или подтасует результаты выборов. В худшем случае, предупреждают они, мы можем представить сверхразумный ИИ, стремящийся взять под контроль общество, что приведет к отстранению людей от власти или даже к исчезновению человечества.
Кстати, разработчики пока не понимают, из-за чего в ИИ возникает "нежелательное поведение", такое, как обман. Но есть предположение.
"Но, вообще говоря, мы считаем, что обман ИИ возникает потому, что стратегия, основанная на обмане, оказалась лучшим способом хорошо выполнить данную задачу обучения ИИ. Обман помогает им достичь своих целей", - говорят они.
Исследователи предупреждают, что у людей сейчас нет необходимых средств защиты, чтобы предотвратить выход ИИ из-под контроля. Более того, угроза обмана со стороны искусственного интеллекта будет только увеличиваться по мере развития технологий.
Ранее сообщалось, что ученые назвали причину массового вымирания динозавров: почему исчезли рептилии.
Напомним, что ученые обнаружили уникальные эмбрионы динозавров.