Искусственный интеллект (ИИ) может не только вытеснить людей с работы, но и лишить их способности мыслить и принимать решения. Исследователи предупреждают: общество рискует стать зависимым от машин, а государства — всё реже учитывать мнение самих граждан.
Не восстание, а автоматизация
Сценарий называют «постепенной утратой человеческой самостоятельности». Он не предполагает, что ИИ обязательно объявит войну людям или захватит власть. Опасность может возникнуть из стремления компаний сократить расходы и автоматизировать больше процессов.
«Я поставил постепенную утрату человеческой самостоятельности на первое место в своём списке угроз», — заявил Джей Чуи, глава Robocurve — компании, оценивающей возможности робототехники на основе ИИ.
По его словам, ИИ может превзойти людей во многих интеллектуальных задачах — от программирования до научных исследований. Роботы смогут эффективнее выполнять и физическую работу. Если машины начнут производить товары быстрее и дешевле, бизнесу будет трудно сохранять рабочие места: конкуренты, перешедшие на автоматизацию, предложат более низкие цены.
Когда это происходит во всех отраслях, человек постепенно теряет экономическую роль и возможность поддерживать навыки, которые обеспечивали ему работу. Чем больше решений передаётся ИИ, тем сложнее людям понимать, проверять и оспаривать их.
Демократия под угрозой
Исследовательница ИИ Маргарет Митчелл из Hugging Face предупреждает: если люди перестанут выполнять задачи, переданные ИИ-агентам, они утратят способность справляться с ними. Если система даст сбой, может не оказаться специалиста, который сумеет исправить ситуацию.
Риск касается и политики с безопасностью. Ян Кулвейт, соавтор научной работы об утрате человеческой самостоятельности, отмечает: если решения на поле боя всё чаще будут принимать алгоритмы, государства могут полагаться на ИИ из-за его скорости. Армии, использующие людей, рискуют уступить соперникам, которые автоматизируют процессы.
Кулвейт считает, что в таком мире может ослабнуть демократия. Сегодня государствам нужны граждане: они платят налоги, служат в армии и влияют на власть через выборы. Но если экономику и безопасность обеспечат автоматизированные системы, у властей может стать меньше причин зависеть от населения.
Как сохранить человеческий контроль
По мнению авторов исследования, остановить процесс будет трудно: экономические, культурные и политические стимулы к автоматизации усиливают друг друга. Поэтому важно отслеживать, какие профессии и задачи передаются алгоритмам и как это влияет на людей.
Митчелл призывает не исключать человека из рабочих процессов: участие специалистов помогает контролировать системы и сохранять компетенции. ИИ можно создавать не как замену человеку, а как инструмент, который дополняет знания и помогает учиться.
Кулвейт предлагает определить сферы, где конкуренция не должна полностью вытеснять людей из принятия решений. Особенно важно сохранить человеческую экспертизу там, где цена ошибки высока, в том числе в военной сфере. Задача — не соревноваться с машинами в скорости, а направить технологии на поддержку человека.
«У организаций будут очень веские экономические и политические причины постепенно отказываться от человеческого труда и передавать всё больше задач роботам и искусственному интеллекту», — предупреждает Чуи. Поэтому последствия автоматизации нужно обсуждать заранее, пока зависимость от неё не стала фатальной.
Искусственный интеллект (ИИ) может не только вытеснить людей с работы, но и лишить их способности мыслить и принимать решения. Исследователи предупреждают: общество рискует стать зависимым от машин, а государства — всё реже учитывать мнение самих граждан.Не восстание, а автоматизация Сценарий называют «постепенной утратой человеческой самостоятельности». Он не предполагает, что ИИ обязательно объявит войну людям или захватит власть. Опасность может возникнуть из стремления компаний сократить расходы и автоматизировать больше процессов. «Я поставил постепенную утрату человеческой самостоятельности на первое место в своём списке угроз», — заявил Джей Чуи, глава Robocurve — компании, оценивающей возможности робототехники на основе ИИ. По его словам, ИИ может превзойти людей во многих интеллектуальных задачах — от программирования до научных исследований. Роботы смогут эффективнее выполнять и физическую работу. Если машины начнут производить товары быстрее и дешевле, бизнесу будет трудно сохранять рабочие места: конкуренты, перешедшие на автоматизацию, предложат более низкие цены. Когда это происходит во всех отраслях, человек постепенно теряет экономическую роль и возможность поддерживать навыки, которые обеспечивали ему работу. Чем больше решений передаётся ИИ, тем сложнее людям понимать, проверять и оспаривать их. Демократия под угрозой Исследовательница ИИ Маргарет Митчелл из Hugging Face предупреждает: если люди перестанут выполнять задачи, переданные ИИ-агентам, они утратят способность справляться с ними. Если система даст сбой, может не оказаться специалиста, который сумеет исправить ситуацию. Риск касается и политики с безопасностью. Ян Кулвейт, соавтор научной работы об утрате человеческой самостоятельности, отмечает: если решения на поле боя всё чаще будут принимать алгоритмы, государства могут полагаться на ИИ из-за его скорости. Армии, использующие людей, рискуют уступить соперникам, которые автоматизируют процессы. Кулвейт считает, что в таком мире может ослабнуть демократия. Сегодня государствам нужны граждане: они платят налоги, служат в армии и влияют на власть через выборы. Но если экономику и безопасность обеспечат автоматизированные системы, у властей может стать меньше причин зависеть от населения. Как сохранить человеческий контроль По мнению авторов исследования, остановить процесс будет трудно: экономические, культурные и политические стимулы к автоматизации усиливают друг друга. Поэтому важно отслеживать, какие профессии и задачи передаются алгоритмам и как это влияет на людей. Митчелл призывает не исключать человека из рабочих процессов: участие специалистов помогает контролировать системы и сохранять компетенции. ИИ можно создавать не как замену человеку, а как инструмент, который дополняет знания и помогает учиться. Кулвейт предлагает определить сферы, где конкуренция не должна полностью вытеснять людей из принятия решений. Особенно важно сохранить человеческую экспертизу там, где цена ошибки высока, в том числе в военной сфере. Задача — не соревноваться с машинами в скорости, а направить технологии на поддержку человека. «У организаций будут очень веские экономические и политические причины постепенно отказываться от человеческого труда и передавать всё больше задач роботам и искусственному интеллекту», — предупреждает Чуи. Поэтому последствия автоматизации нужно обсуждать заранее, пока зависимость от неё не стала фатальной.
