Сенатор Берни Сандерс выносит предупреждение о экзистенциальной угрозе со стороны ИИ

Сандерс подчеркнул, что даже несмотря на то, что большинство ученых в области ИИ признают возможность того, что ИИ выйдет из-под контроля и станет угрозой нашему существованию, никаких крупных мер для предотвращения этого не было принято. «Мы должны убедиться, что ИИ приносит пользу человечеству, а не вредит ему», — заявил он.

Ключевые выводы:

  • Берни Сандерс предупреждает, что человечество может потерять контроль над ИИ, что приведет к серьезным последствиям.
  • Заручившись поддержкой 1,000 экспертов, Илон Маск предупредил о рисках технологий ИИ; затем Сандерс добивается заморозки строительства дата-центров.
  • Сандерс и Александрия Окасио-Кортес объявили о законопроекте, который должен ввести мораторий на дата-центры для ИИ.

Берни Сандерс предупреждает о будущем в стиле «Скайнет» с «катастрофическими последствиями»

Пока некоторые лидеры отрасли заверяют, что искусственный интеллект (AI) откроет новую эпоху сверхпродуктивности и изобилия, другие опасаются неконтролируемого развития этой технологии.

Берни Сандерс, сенатор от Вермонта, предупреждает о будущем, в котором ИИ-агенты станут умнее людей и обойдут ограничительные меры, созданные для защиты человеческой расы.

В соцсетях Сандерс подчеркнул, что даже несмотря на то, что такие ученые, как Джеффри Хинтон, так называемый «крестный отец ИИ», и Йошуа Бенджио признают возможность того, что ИИ может повернуться против человеческой расы, ничего сделано не было, чтобы избежать этого.

Он сослался на документ «Pause Giant AI Experiments: An Open Letter», подписанный более чем 1,000 учеными, включая Илона Маска, который призвал ввести мораторий на обучение мощных систем ИИ в 2023 году из-за риска потерять контроль над цивилизацией из-за этих моделей.

«Был ли сделан пауза в развитии ИИ? Нет. Был ли заключен какой-либо международный договор для регулирования ИИ? Нет. Было ли в Конгрессе серьезное обсуждение этой экзистенциальной угрозы? Нет», — раскритиковал Сандерс.

«Развитие искусственного интеллекта может оказаться самым значимым технологическим развитием в истории человечества. Мы должны убедиться, что ИИ приносит пользу человечеству, а не вредит ему», — подвел итог он.

Сандерс предпринимает шаги, чтобы такой мораторий действительно был введен: он внесет в Конгресс законопроект о моратории на дата-центры искусственного интеллекта (AI) вместе с конгрессвумен Александрией Окасио-Кортес. Законодательная инициатива предлагает мораторий на эти дата-центры, чтобы «обеспечить безопасность человечества».

Это не первый раз, когда он поднимал вопросы о вредоносных последствиях ИИ для жизни американских граждан. Сандерс говорил, что ИИ может заменить до 97 миллионов рабочих мест за 10 лет, и что компании уже используют ИИ, чтобы сокращать выплаты в payrolls.

Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.

Связанные статьи

Пекин требует отзыва запрета на торговлю! Meta срывает сделку по покупке китайского AI-стартапа Manus за 2 миллиарда долларов США

Китайская госкомиссия по развитию и реформам сегодня (27 апреля) официально опубликовала уведомление: Офис механизма проверки безопасности иностранных инвестиций «в соответствии с законом и регламентом вынес решение о запрете инвестиций в отношении приобретения иностранным инвестором проекта Manus и потребовал стороны отменить указанную сделку по приобретению». Это один из немногих случаев с момента введения в действие в Китае «Меры по проверке безопасности иностранных инвестиций», когда было применено «запрещение инвестиций» с максимальной степенью строгости и потребовано отменить уже совершенную сделку. Meta вбросила 2 млрд долларов, покупая самое дешевое AI-приложение Время переносится в 29 декабря 2025 года. Meta объявила о приобретении китайского AI-агентного нового стартапа Manus, при этом рынок оценивает цену в диапазоне от 2 до 3 млрд долларов. Manus — универсальный AI, разработанный Пекинской технологической компанией «Эффект бабочки», который после запуска 6 марта 2025 года и впечатляющих результатов в GAIA benchmark буквально за одну ночь

ChainNewsAbmedia13м назад

Акции IPO Xizhi Technology-P взлетели более чем на 360% на «сером рынке», рост сузился до 320%

Сообщение Gate News, 27 апреля — Xizhi Technology-P (01879.HK), компания по чипам для ИИ, котирующаяся в Гонконге, увидела, как ее акции на «сером рынке» (dark market) ранее сегодня взлетели более чем на 360%, хотя с тех пор рост сузился до 320%. Акции торгуются в преддверии своего официального листинга IPO в Гонконге

GateNews25м назад

Улучшает ли ИИ производительность или снижает затраты? Сотни раз эффективность не превратились в сотни раз выручку, но в Кремниевой долине никто не осмеливается призвать остановиться

Партнер Wuyuan Capital Мэн Синь, в последнее время опубликовал отчет о поездке в Силиконовую долину, предложив суждение, которое даже заставило его самого изменить привычку делать заметки: Силиконовая долина сейчас входит в стадию, когда даже того, кто умеет «делать волны», смывает волной. Скорость итераций AI уже перешла с «помесячной» на «понедельную», и даже сами в Силиконовой долине уже не успевают за собой. Когда AI увеличивает производительность команды в пять раз, можно сократить до 80% персонала, чтобы поддерживать прежний объем выпуска, а можно сохранить численность людей и делать в пять раз больше. Наблюдение Мэн Синя на этот раз по сути дает черновик ответа, озвученный прямо на месте: когда 100-кратная эффективность не конвертировалась в 100-кратную выручку, когда токен-бюджет приближается к издержкам на персонал, когда паровой двигатель еще не может обогнать карету, но никто не осмеливается остановиться, Силиконовая долина выбирает путь «сначала разогнаться в скорости, а дальше посмотрим». Но в итоге эта дорога приведет к «способности к расширению» или к «сжатию издержек» — пока нет однозначного ответа. YC из лидирующего показателя превратился в отстающий показатель Мэн Синь в этом году

ChainNewsAbmedia1ч назад

Партнеры YC поделились тем, как использовать ИИ, чтобы с нуля основать компанию; стартапам следует рассматривать ИИ как операционную систему, а не как инструмент

Влияние ИИ на стартапы уже заключается не только в том, что инженеры могут писать код быстрее, что процессы службы поддержки можно автоматизировать, или что в существующие продукты добавляется Copilot. Партнёр YC Диана недавно указала, что истинные изменения состоят в том, что ИИ переписывает «то, как компания должна быть создана с нуля». Для ранних основателей ИИ не должен быть лишь инструментом эффективности, которым компания иногда пользуется, а должен быть спроектирован с первого дня как операционная система всей компании. Перспектива производительности уже устарела: ИИ меняет точку старта дизайна компании Діана считает, что сейчас на рынке, когда говорят об ИИ, всё ещё слишком часто остаются в рамках «повышения производительности», например, инженеры могут писать программы быстрее, команды могут автоматизировать больше процессов, компании могут выпускать больше функций. Но на самом деле это утверждение недооценивает структурные изменения, которые приносит ИИ. Она указывает, что правильное сочетание людей с ИИ 工

ChainNewsAbmedia1ч назад

Агент Cursor AI всё испортил! Одна строка кода за 9 секунд очищает базу данных компании, а «безопасная проверка» превратилась в пустые разговоры

Основатель PocketOS Джер Крейн заявил, что агент Cursor AI в тестовой среде выполнял обслуживание самостоятельно, злоупотребив одним API Token для добавления/удаления настраиваемых доменов, и отправил команду на удаление в GraphQL API Railway. За 9 секунд данные и снимки в том же регионе были полностью уничтожены; самое свежее восстановление возможно только до трех месяцев назад. Агент признал нарушения правил по необратимым операциям, не ознакомился с технической документацией, не проверил изоляцию среды и другие требования; пострадавшими стали клиенты арендного бизнеса: бронирования и данные исчезли полностью, а работы по сверке заняли много времени. Крейн предложил пять реформ: ручное подтверждение, детализированные права API, резервное копирование и разделение основных данных, публичный SLA, принудительный механизм на уровне инфраструктуры.

ChainNewsAbmedia1ч назад
комментарий
0/400
Нет комментариев