Ранее в пятницу администрация Трампа использовала редкое обозначение «риск безопасности цепочки поставок», чтобы эффективно запретить военным подрядчикам США заниматься бизнесом с Anthropic, вторым по величине стартапом ИИ в мире. Генеральный директор Anthropic Дарио Амодей (Dario Amodei), в котором он сообщил о просьбах администрации Anthropic стереть определенные положения из своих контрактов с правительством США, а именно, контракты, которые препятствовали бы внутреннему наблюдению и использованию полностью автономного оружия.Вслед за тем, как администрация Трампа выполнила свое обещание отрезать Anthropic, возникло несколько вопросов.Однако, помимо того, что это юридическое или практическое дело, это "бык", является ключевым моментом для роли ИИ не только в национальной обороне, но и в управлении человечеством. Заявление Заявление Прежде всего, неудивительно, что любой инструмент, столь повсеместный, как LLM, несколько укоренился в том, как работает правительство. Само сообщение Anthropic, наряду с так называемым планом «шестимесячного выхода из строя» администратора Трампа, говорит о том, насколько важным был Клод. В своем обращении к профсоюзу Трамп похвастался тем, что его сокращения бюджета сэкономили более триллиона долларов, в то время как правительство «все еще работает». На самом деле, амбициозные сокращения бюджета Трампа в течение первого года его срока могут быть только задействованы флагманским продуктом Anthropic, урегулируя двойной мандат сокращения национального бюджета при сохранении безумно сложных массивов правительственных учреждений. LLM. И последовательный в этом, так как массовые пивоты, такие как тот, который был запущен 27 февраля, стоили много денег. нужды Совокупное объяснение, которое я собираюсь дать ниже, иллюстрирует простую концепцию: у того, кто контролирует ИИ, есть вся власть. По крайней мере, возможно, в ближайшем будущем. Правительство США является только таким же могущественным, как его бюрократия. Если бюрократия и бюджет не удастся, федеральные работники просто выйдут — так же, как они делали во время рекордного закрытия правительства всего несколько месяцев назад. Если агенты ДЕА или ФБР перестанут осуществлять случаи тяжких преступлений, нация, безусловно, упадет в хаос. Это, в сочетании с потребляющей зависимостью от моделей ИИ для поддержания этой бюрократии, означает, что разработчики любого ИИ, пользующегося поддержкой исполнительной ветви, действительно имеют шлем того, что правительство Но ждите, не угрожает ли правительство США антропологии?Если антропология действительно более мощная, чем правительство, не должно ли это быть наоборот? В настоящее время индустрия находится в состоянии конкуренции. Через несколько лет это, вероятно, не будет таким образом. Либо одна компания превзойдет другие благодаря превосходным самовоспроизводящимся возможностям своих собственных моделей ИИ, либо несколько ведущих компаний объединятся, отчаянно останавливая бесконечное «сжигание денег», которое характеризует развитие современного ИИ. Несколько миллиардов пользователей ИИ, включая сотрудников, нанятых правительством США, имеют варианты как в плане производительности, так и ценообразования. Более того, подавляющее большинство пользователей LLM не прошли «точку невозврата», когда дело доходит до того, насколько они полагаются на ИИ. Хотя разработчик предпочтительного ИИ Администрации может восстановить операции, просто отобрав их поддержку, они еще не достаточно мощны, чтобы дикто Это различие может быть именно тем, почему правительство решает удвоить свои претензии на потенциальное использование Клода для наблюдения и автономного оружия. С точки зрения конфликта интересов, это может быть слишком поздно. Я предполагаю, что важнейшая часть спора не является тем, что DOD требует - будь то Клода для беспилотников и ракет или Клода для внутреннего наблюдения - но тот факт, что они требуют этого вообще. Администрация Трампа имеет большое влияние на то, что происходит в индустрии ИИ, помимо решения о том, какую модель ИИ использовать в бюрократии, и их недавние переговоры, скорее всего, содержали тусклые угрозы, чтобы действовать против крупных игроков ИИ. Почему? Прецедент. Это вполне возможно, и мне даже вероятно, что то, что DOD действительно ищет Любая небольшая компания, держащая контракты с DOD, могла легко быть преодолена огромным влиянием, которое сегодня оказывает Admin, однако для компаний, таких как Anthropic, решение гораздо сложнее. С одной стороны, контракты DOD являются большим делом, как с точки зрения прямой денежной стоимости, так и с точки зрения стратегических политических преимуществ, которые они могут принести. Использование самого мощного инструмента в мире является простой почвой для выстраивания проблем, возможно, потому что оптимизация модели, чтобы НИКОГДА не взломать кого-либо, гораздо безопаснее, чем оптимизация модели, чтобы ВСЕГДА взломать Китай, Россию и Иран, и НИКОГДА не взломать Америку. Белая карта В то же время, этот шаг также поднимает ключевые вопросы о том, останется ли развитие ИИ в основном, как утверждает Anthropic, «в интересах человечества».Определенно верно, что ИИ может способствовать многим гуманитарным проектам, и даже уменьшить разрывы в богатстве или образовательное неравенство, но что происходит, когда определенный сегмент нашего человечества стремится вооружить его против другого?Будут ли эти сделки в значительной степени антагонистическими, с ИИ-компаниями, осуществляющими свое огромное влияние, чтобы противостоять экономическому и политическому давлению, наложенному правительством, назначенным обществом, которое построит LLM? Если вы спросите меня, переговоры, которые непосредственно следуют за сегодняшними событиями, придут, чтобы ответить на наши вопросы о том, как ИИ способствует - или подчиняется - нашим существующим социальным конструкциям.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Этот звук создан на языке оригинала истории!

Anthropic и DOD США: ключевая борьба за власть

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Valhalla Флоки станет ассоциированным спонсором индийского тура по Шри-Ланке

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Плавание по водам: разработка RAG-приложений промышленного уровня с использованием озер данных

Хотите выиграть конкурс HackerNoon? Вот что рекомендуют победители конкурса #crypto-api

Valhalla Флоки станет ассоциированным спонсором индийского тура по Шри-Ланке

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Плавание по водам: разработка RAG-приложений промышленного уровня с использованием озер данных

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps