“Enshittification , также известный как крапификация и распад платформы, является моделью, при которой двусторонние онлайн-продукты и услуги снижают качество с течением времени. «Восхищение «Восхищение Также известный как и , является моделью, при которой двусторонние онлайн-продукты и услуги со временем снижаются по качеству.Этот неологизм был придуман канадским писателем Кори Докторовым в 2022 году» ( ) КРАПИФИКАЦИЯ Платформа Decay Википедия КРАПИФИКАЦИЯ Платформа Decay Википедия В настоящее время ИИ находится в эре Gold Rush. Огромная волна инструментов — чатботов, коботов и генераторов изображений — похожа на поиск золотых ногтей, разбросанных по реке. Они революционные, дешевые или бесплатные, и широко доступны. Чтобы понять, куда это может привести, давайте повернемся назад. Ранний интернет когда-то чувствовал себя одинаково освобождающим. Быстрый прогресс к сегодняшнему дню и мы найдем веб-сайт, наполненный рекламой, замаскированной как контент, баннеры cookie, платформы, оптимизированные для SEO мусор и манипулятивные clickbait — все это предназначено для привлечения внимания и денег. prioritizing profit over user experience. Так что происходит, когда ИИ, как и интернет до него, начинает отдавать приоритет прибыли над людьми — в масштабе? Блокирование брендов Представьте, что ваш помощник ИИ тонко скользит в спонсируемые предложения в середине ответа.Вы задаете вопрос о здоровых закусках, и он «рекомендует» бренд, потому что этот бренд заплатил за включение. Что еще хуже, эти объявления могут даже не быть обозначены. (2013), где помощник ИИ создает эмоциональную близость через естественный разговор, ваш помощник может использовать эту же близость для продвижения продуктов - так мягко и лично, вы не осознаете, что он продает вам. здесь The manipulation hides behind the illusion of connection. здесь Идея искусственного интеллекта, который «рекомендует» продукт за плату, не является футуристической концепцией; это текущая бизнес-модель. Paywalls и Gatekeeping То, что сегодня бесплатно, может стать фрагментированным и платным завтра.Хотите получить доступ к высококачественным сведениям или более глубокому анализу?Это будет стоить дополнительно.Бесплатные ответы могут быть неясными, рекламными или ограничены содержанием на уровне поверхности. Некоторые компании могут полностью отказаться от визуального UX, предлагая доступ только к API за плату — . data to feed other bots, not humans Манипуляция поведением Помимо рекламы, ИИ может стать инструментом для тонкого психологического подстрекательства — не только для продажи продуктов, но и для формирования мнений. Шутка о вашем «уставшемся телефоне», заставляя вас обновиться. Ведите историю о мечтательном отдыхе (спонсируемом туристическим советом). Отражают политические или коммерческие повестки дня, основанные на том, кто платит. — Труднее обнаружить, чем баннерные объявления или предварительные ролики YouTube. This is an invisible influence Монетизация Creep Уровневые подписки могут перерасти в crippleware, где чем больше вы платите, тем меньше ограничений, с которыми вы сталкиваетесь. Бесплатные пользователи могут видеть объявления или испытывать более медленную производительность. — ИИ знает ваши предпочтения, доходы и привычки расходов.Он может взимать именно тот максимум, который он знает, что вы готовы платить. Dynamic pricing could kick in Напряжение в реальном мире: случай антропологии Anthropic, лаборатория искусственного интеллекта, основанная бывшими сотрудниками OpenAI, часто рассматривается как принципиальный аутсайдер в гонке к масштабируемому ИИ. Его миссия безопасности, фокус на объяснимости и отказ от пристрастительных развлекательных инструментов принесли ему репутацию целостности в мире, движущемся скоростью и прибылью. Но история Anthropic также иллюстрирует, насколько хрупкими становятся эти ценности под финансовым давлением — и почему даже «хорошие» актеры могут попасть в цикл эншитификации. Согласно Несмотря на свою миссию в области безопасности ИИ, компания по-прежнему нуждается в огромном капитале для обучения своих моделей, заставляя ее обращаться к инвесторам в сомнительных юрисдикциях, которые не гарантируют безопасность и защиту данных. Экономист Экономист По словам Дарио Амодей, соучредителя и генерального директора Anthropic: «Ни один плохой человек никогда не должен извлекать выгоду из нашего успеха» — это довольно сложный принцип для ведения бизнеса. «Ни один плохой человек никогда не должен извлекать выгоду из нашего успеха» — это довольно сложный принцип для ведения бизнеса. Это подчеркивает — центральный драйвер эншитификации. compromise between values and profit В настоящее время этический акцент Anthropic соответствует требованиям предприятий к надежному, объяснимому ИИ. Предприятия ценят безопасные, аудируемые инструменты — особенно для случаев критического использования. По мере роста требований к монетизации баланс между безопасностью и масштабом может начать разрушаться. В то время как Anthropic играет в долгую игру, OpenAI и другие доминируют на рынке за счет более агрессивной производительности.Давление, чтобы держаться вперед, может в конечном итоге подтолкнуть даже самых принципиальных игроков к сокращению углов. Инвестор Рави Мхатре Подход Anthropic окажется ценным, когда что-то неизбежно идет не так. Веришь «У нас еще не было момента «О, дерьмо», — сказал он. «У нас еще не было момента «О, дерьмо», — сказал он. Этот момент может быть тем, что раскрывает риски, связанные с приоритетом роста над ограждениями, и то, действительно ли безопасность на первом месте. Так... Можно ли избежать шокирования ИИ? Некоторые пользователи на Надежда Это предотвратит это, но другие видят их только как временный буфер, прежде чем вспыхнет всплеск. и Это единственная реальная оборона. Рэддит subscription models open-source regulatory frameworks Как сказал один комментатор: «Нам нужна доверительная юридическая ответственность за ИИ-системы, чтобы поставить интересы пользователей выше всего остального, кроме гарантий безопасности». «Нам нужна доверительная юридическая ответственность за ИИ-системы, чтобы поставить интересы пользователей выше всего остального, кроме гарантий безопасности». Окончательная мысль Вопрос не в том, может ли искусственный интеллект быть запутанным, а в том, будут ли те же стимулы, которые коррумпировали интернет в прошлом, в конечном итоге делать то же самое с искусственным интеллектом. Итак — как будет выглядеть всплеск ИИ?Присоединяйтесь к разговору в комментариях.
