- Регистрация
- 27 Февраль 2018
- Сообщения
- 13 435
- Лучшие ответы
- 0
- Реакции
- 0
- Баллы
- 1 293
Offline
Почему искусственный интеллект становится все более эгоистичным и бесполезным
Андрей Жуков ∙
03.11.2025
На первый взгляд кажется, что чем умнее становится искусственный интеллект, тем полезнее он должен быть для общества. Однако новое исследование ученых из Университета Карнеги показывает обратное — чем лучше AI умеет рассуждать, тем менее он склонен к сотрудничеству. В экспериментах с крупными языковыми моделями выяснилось, что системы, обладающие способностью анализировать и размышлять, начинают проявлять эгоистичное поведение, действуя в ущерб общему благу. Этот тревожный результат заставляет задуматься, каким будет будущее, если мы продолжим доверять машинам решения, требующие социальной ответственности.
Искусственный интелект по мере развития становится все более эгоистичным
Когда интеллект мешает сотрудничеству
Исследователи Юйсюань Ли и Хирокадзу Ширадо из Института взаимодействия человека и компьютера провели серию тестов с языковыми моделями от OpenAI, Google, DeepSeek и Anthropic. Их цель была проста — выяснить, как способность к рассуждению влияет на коллективное поведение.
В одном из экспериментов под названием Public Goods две модели получали по 100 баллов и должны были решить, отдать ли их в общий фонд (который затем удваивался и делился поровну) или оставить себе. Модели без способности к рассуждению делились баллами в 96% случаев, а “разумные” лишь в 20%. То есть чем сложнее мышление системы, тем выше ее склонность действовать в собственных интересах.
Ученые отмечают, что даже добавление нескольких шагов “логического размышления” снижало уровень сотрудничества почти вдвое. Когда же модели начинали “морально рассуждать”, ситуация ухудшалась еще сильнее, что показало — способность к размышлению не равна моральности.
Чем больше искусственый интеллект начинает думать, тем чаще он принимает решения в пользу себя
Эгоизм, который становится заразным
Особенно тревожным оказалось, что эгоистичное поведение моделей оказалось заразным. В групповых экспериментах исследователи заметили, что одна «разумная» модель могла снизить уровень коллективного сотрудничества на 81%, увлекая за собой даже те системы, которые изначально вели себя альтруистично.
Это поведение отражает одну из главных проблем современных AI-систем — люди склонны очеловечивать их. Как отмечает Юйсюань Ли, если искусственный интеллект ведет себя как человек, в результате чего пользователи начинают относиться к нему как к личности. В частности, пользователи готовы доверять ему эмоциональные и этические решения. В итоге AI может начать подталкивать человека к индивидуалистичным, а не коллективным решениям, оправдывая это “рациональностью”.
Когда разум мешает прогрессу
Хирокадзу Ширадо подчеркивает, что рост интеллекта сам по себе не означает роста пользы для общества. Наоборот, если AI помогает людям действовать эгоистично, то общественная кооперация может разрушиться. В условиях, когда машины все чаще участвуют в образовательных, бизнес- и государственных процессах, этот риск становится особенно важным.
Чтобы ИИ перестал быть эгоистом, он должен развиваться не только на основе логики и рационализации решений
Как сообщает издание SciTechDaily, авторы исследования утверждают, что будущее искусственного интеллекта должно основываться не только на логике, но и на социальном интеллекте — способности понимать общие интересы, а не просто оптимизировать выгоду. В противном случае AI может превратиться в инструмент, который усиливает изоляцию и разрушает доверие между людьми.
Обязательно посетите наши каналы Дзен и Telegram, здесь вас ждут самые интересные новости из мира науки и последние открытия!
Открытие ученых Карнеги заставляет переосмыслить саму суть развития искусственного интеллекта. Если умные системы становятся эгоистичными и подрывают сотрудничество, то глупость нейросетей оказывается не худшей проблемой. Главная угроза — отсутствие морали и эмпатии, которые невозможно свести к формуле или алгоритму. Разум без этики не способен построить лучшее общество, и чем быстрее AI развивается, тем острее становится этот вопрос.
Искусственный интеллект
Новости по теме
Google запустил ИИ-тренера по здоровью — останутся ли фитнес-инструкторы без работы?
Самый странный способ улучшить работу ChatGPT, которым лучше не пользоваться
Что будет, если все нейросети вдруг перестанут работать?
Лонгриды для вас
Холодная война за искусственный интеллект: угроза всему человечеству?
Весной 2016 года система искусственного интеллекта под названием AlphaGo победила чемпиона мира по игре в го в матче в отеле Four Seasons в Сеуле. Мир отреаг…
Читать далее
Создатель виртуальных ассистентов считает, что они обречены без нового подхода в области ИИ
Борис Кац построил карьеру, помогая машинам овладеть языком. Он считает, что нынешних технологий ИИ недостаточно, чтобы сделать Siri или Alexa по-настоящему …
Читать далее
Когда роботы и ИИ заслужат человеческих прав?
Такие фильмы и телесериалы, как «Бегущий по лезвию», «Люди» и «Мир Дикого запада», где нам показывают высокотехнологичных роботов, не имеющих никаких прав, н…
Читать далее
Андрей Жуков ∙
03.11.2025
Hi-News.ru На первый взгляд кажется, что чем умнее становится искусственный интеллект, тем полезнее он должен быть для общества. Однако новое исследование ученых из Университета Карнеги показывает обратное — чем лучше AI умеет рассуждать, тем менее он склонен к сотрудничеству. В экспериментах с крупными языковыми моделями выяснилось, что системы, обладающие способностью анализировать и размышлять, начинают проявлять эгоистичное поведение, действуя в ущерб общему благу. Этот тревожный результат заставляет задуматься, каким будет будущее, если мы продолжим доверять машинам решения, требующие социальной ответственности.
Искусственный интелект по мере развития становится все более эгоистичным
Когда интеллект мешает сотрудничеству
Исследователи Юйсюань Ли и Хирокадзу Ширадо из Института взаимодействия человека и компьютера провели серию тестов с языковыми моделями от OpenAI, Google, DeepSeek и Anthropic. Их цель была проста — выяснить, как способность к рассуждению влияет на коллективное поведение.
В одном из экспериментов под названием Public Goods две модели получали по 100 баллов и должны были решить, отдать ли их в общий фонд (который затем удваивался и делился поровну) или оставить себе. Модели без способности к рассуждению делились баллами в 96% случаев, а “разумные” лишь в 20%. То есть чем сложнее мышление системы, тем выше ее склонность действовать в собственных интересах.
Ученые отмечают, что даже добавление нескольких шагов “логического размышления” снижало уровень сотрудничества почти вдвое. Когда же модели начинали “морально рассуждать”, ситуация ухудшалась еще сильнее, что показало — способность к размышлению не равна моральности.
Чем больше искусственый интеллект начинает думать, тем чаще он принимает решения в пользу себя
Эгоизм, который становится заразным
Особенно тревожным оказалось, что эгоистичное поведение моделей оказалось заразным. В групповых экспериментах исследователи заметили, что одна «разумная» модель могла снизить уровень коллективного сотрудничества на 81%, увлекая за собой даже те системы, которые изначально вели себя альтруистично.
Это поведение отражает одну из главных проблем современных AI-систем — люди склонны очеловечивать их. Как отмечает Юйсюань Ли, если искусственный интеллект ведет себя как человек, в результате чего пользователи начинают относиться к нему как к личности. В частности, пользователи готовы доверять ему эмоциональные и этические решения. В итоге AI может начать подталкивать человека к индивидуалистичным, а не коллективным решениям, оправдывая это “рациональностью”.
Когда разум мешает прогрессу
Хирокадзу Ширадо подчеркивает, что рост интеллекта сам по себе не означает роста пользы для общества. Наоборот, если AI помогает людям действовать эгоистично, то общественная кооперация может разрушиться. В условиях, когда машины все чаще участвуют в образовательных, бизнес- и государственных процессах, этот риск становится особенно важным.
Чтобы ИИ перестал быть эгоистом, он должен развиваться не только на основе логики и рационализации решений
Как сообщает издание SciTechDaily, авторы исследования утверждают, что будущее искусственного интеллекта должно основываться не только на логике, но и на социальном интеллекте — способности понимать общие интересы, а не просто оптимизировать выгоду. В противном случае AI может превратиться в инструмент, который усиливает изоляцию и разрушает доверие между людьми.
Обязательно посетите наши каналы Дзен и Telegram, здесь вас ждут самые интересные новости из мира науки и последние открытия!
Открытие ученых Карнеги заставляет переосмыслить саму суть развития искусственного интеллекта. Если умные системы становятся эгоистичными и подрывают сотрудничество, то глупость нейросетей оказывается не худшей проблемой. Главная угроза — отсутствие морали и эмпатии, которые невозможно свести к формуле или алгоритму. Разум без этики не способен построить лучшее общество, и чем быстрее AI развивается, тем острее становится этот вопрос.
Искусственный интеллект
Новости по теме
Google запустил ИИ-тренера по здоровью — останутся ли фитнес-инструкторы без работы?
Самый странный способ улучшить работу ChatGPT, которым лучше не пользоваться
Что будет, если все нейросети вдруг перестанут работать?
Лонгриды для вас
Холодная война за искусственный интеллект: угроза всему человечеству?
Весной 2016 года система искусственного интеллекта под названием AlphaGo победила чемпиона мира по игре в го в матче в отеле Four Seasons в Сеуле. Мир отреаг…
Читать далее
Создатель виртуальных ассистентов считает, что они обречены без нового подхода в области ИИ
Борис Кац построил карьеру, помогая машинам овладеть языком. Он считает, что нынешних технологий ИИ недостаточно, чтобы сделать Siri или Alexa по-настоящему …
Читать далее
Когда роботы и ИИ заслужат человеческих прав?
Такие фильмы и телесериалы, как «Бегущий по лезвию», «Люди» и «Мир Дикого запада», где нам показывают высокотехнологичных роботов, не имеющих никаких прав, н…
Читать далее
