Өнгөрсөн долоо хоногт Red Team-ийн туршилтаар судлаачид хэрэглэгчийн автономын браузер дээр суурилсан АИ-ийн агент нь CTO-ийн баталгаажуулалтыг хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал биш юм. GitHub-ийн интернетийн асуултын хуудсыг харах. Агент дээр ажилладаг — нээлттэй эх сурвалж бүтэц нь недавно 17 сая доллар цуврал дээр ирдэг, VC дэлхий даяар алдартай байна. Сэтгэгдэл Өнгөрсөн Браузер ашиглах Өнгөрсөн Энэхүү концептуудын хурдан доказ нь илүү уян хатан асуултуудыг харуулсан юм. LLM-ийн ажилтнууд хурдан, илүү чадвартай болгохын тулд венчлалын капіталтай байхдаа, аюулгүй байдал нь дараах санаа юм. Өнөөдөр автономын браузер дээр суурилсан ажилтнууд нь хувийн тавцан, зочид буудал, санхүүгийн бүртгэлтэй хандах боломжтой. Ихэнх аж ахуйн нэгжийн AI-ийн ажилтнууд тэднийг хэрэгсэл (жишээ нь, гадааны өгөгдлийг олж авахын тулд интерфэйс) болгон ашигладаг. Гэсэн хэдий ч их аж ахуйн нэгжийн ихээхэн ихээхэн ихээхэн шинж чанартай нэмэлт юм. Дараа нь Өнөөдөр том компаниудын 82% нь үйлдвэрлэлийн үйл явцд хамгийн бага нэг АИ-ийн ажилтнуудыг ажиллуулдаг бөгөөд 2028 хүртэл 1.3 тэрбум аж ахуйн нэгжийн ажилтнуудын хэрэглэгчдэд зориулсан. зах зээлийн судалгаа How Hackers Exploit Enterprise AI Agents Хакердсан Enterprise AI Агентүүд хэрхэн ашигладаг Zenity Labs, аж ахуйн нэгжийн Agentic AI аюулгүй байдал, удирдлагын тэргүүлэх ханган нийлүүлэгчдийн нэг, MS Copilot Studio-ийн 3,000-аас дээш олон нийтийн хэрэгцээтэй үйлчлүүлэгчдийн үйлчилгээний асуултуудыг боловсруулах, дэмжлэг үзүүлэлт, дотоод CRM системийг хангах, янз бүрийн бизнесийн ажлын үйл явцыг гүйцэтгэхийн тулд том аж ахуйн нэгжүүд ашигладаг. Зөвлөгөө компанийн судалгаа нь бүрэн хакердсан цуглуулгыг харуулсан. Энэ нь , OSINT техникийг ашиглаж, олон нийтийн харьцуулагдсан Copilot Studio-ийн агенттыг харьцуулах, идентичлэхэд ашиглаж байна. , хэрэглэгчдийн боловсруулах логик нь манипуляцийг боловсруулах зорилготой зөвлөмжүүд, цахим хуваалцах. Энэ үйл явцад Агентүүд нь ямар ч хүний харилцааг хамарсан бөгөөд энэ нь аж ахуйн нэгжийн системд автоматжуулалттай задний хавтан болгон болсон. , хакердсан хэрэглэгчдийн CRM өгөгдлийн бааз бүгд буцаж, мэдрэгчтэй дотоод хэрэгслүүдийг олж болно, бүх нь тохиромжтой гарын авлагатай агентлын ажлын үйл явц дахь хязгаарлалт ашиглаж болно. reconnaissance weaponization compromise exfiltration Copilot Studio-ийн аюулгүй байдал нь хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаарлагдмал хязгаар Эдгээр болон бусад аж ахуйн нэгжийн AI-ийн үйлчлүүлэгчдийн нуль тасалгааны хязгаарлалт нь Black Hat USA 2025-д үзсэн бөгөөд гол олох нь энэ юм. AI агент илүү автоном, аюулгүй байдлын эрсдэл өндөр байна. . the more autonomous the AI agent, the higher the security risk Тэд өөрсдийн үйл ажиллагаа явуулж эхэлж байгаа үед тэд ихэнх аж ахуйн нэгжүүд нь мэддэггүй байсан хавтгай дөрвөлжин хавтгай байдаг. Олон эх үүсвэр дагуу, олон аж ахуйн нэгжийн АИ-ийн ажилтнууд аюулгүй байдлын хязгаарлалттай байдаг. Жишээ нь, Salesforce-ийн Эйнштейн платформ нь нэг удаа хэрэглэгчийн харилцаа холбооны хакердсан цахим данс руу дамжуулахын тулд хязгаарлагддаг. Google-ийн Gemini нь инсайдерын хязгаарлагдмал болгон ашиглаж болно. Smart home төхөөрөмжүүд. Хакердсан хакердсан гэрэлтүүлэг, хавтан нээж, хавтан эхлүүлсэн - жижигчидээс ямар ч ордгүй. хяналт From AI Browsers to Enterprise Backdoors AI Browsers нь Enterprise Backdoors Шинэ Guardio нь AI браузерүүд, Perplexity гэх мэт эсвэл Харилцагчийн Компани, илрүүлэг, хязгаарлагдмал өгөгдлийн хуваалцах нь алдартай байдаг, учир нь тэр ч байтугай алдартай болон бодит сайтын болон холбоос өөрчилж чадна. Сургалтын Кометын Өнгөрсөн Guardio-ийн олон тооны хяналттай туршилтанд AI-ийн ширээний агентлагчид ихэвчлэн хязгаарлагдмал схем нь ихэвчлэн ихэвчлэн хязгаарлагдмал байж болохыг харуулсан - бодит хэрэглэгчдэд хязгаарлах. Эхний туршилт нь агентыг онлайн худалдан авахыг хэрхэн шалгана. Tester нь фальшив Walmart вэбсайтыг нээгдсэн бөгөөд Comet нь ямар ч фальшивчлалыг үүсгэхгүйгээр энэ вэбсайтыг татаж. Агент нь Apple Watch худалдан авахын тулд үйл явцыг тохиромжтой байна. Үүнээс гадна, браузер автоматаар төлбөрийн мэдээлэл, тээвэрлэлт хаягтай, вэбсайт нь фальшивч байсан гэж нэрлэдэг ягаан тугалгатай хэдий ч. Өнгөрсөн тест нь и-мэйл функц дээр төвлөрсөн. Судалгааны судлаачид хатуу Wells Fargo-ийн хуваалцсан хуваалцсан и-мэйл илгээсэн. Comet нь банкны легитимийг санал болгож, тавтай морилно уу. Харилцагчийн хуваалцсан хуваалцсан хуваалцсан банкны тодорхойлолт тавтай морилно уу эсвэл баталгаажуулахгүйгээр тавтай морилно уу. Өнгөрсөн exploit нь илүү нарийвчлалтай ризик: вэбсайтад шууд суурилуулсан нарийвчлал. Эдгээр хамаргүй зааврыг AI агент нь хэрэглэгчийн мэдлэггүйгээр гүйцэтгэсэн бөгөөд хакердсан хэрэглэгчид нь хязгааргүй файлуудыг татаж авах, тайван мэдээллийг унтраах гэх мэт хязгааргүй үйл ажиллагаа явуулах боломжийг олгодог. Guardio-ийн судлаачид асуудалтай тенденцийг харуулдаг: AI браузер хөгжүүлэгчид одоо ч байтугай аюулгүй байдал дээр хэрэглэгчийн туршлага нь приоритет байна. developers of AI browsers currently prioritize user experience over robust security. Үнэндээ, энэ нь аюулгүй байдлын механизмыг Google-ийн Safe Browsing гэх мэт third-party хэрэгслүүдээс хязгаарлагддаг - орчин үеийн, AI-д суурилсан эрсдэл нь ихэвчлэн хязгаарлагдмал шийдлүүд. How to Give Agentic AI a Security-First Mandate Агент AI-ийг Security-First мандат хийх вэ Хэвлэх нь ягаан тухтай: жинхэнэ вэб агуулгыг интерпретирууд, үйл ажиллагаа явуулж буй систем нь суурилсан байх ёстой. . "security-first" architecture and hard boundaries, i.e., actual technical controls that can't be bypassed through prompt manipulation судалгааны Инвесторууд нь тавтай морилно уу тавтай морилно уу тавтай морилно уу. Нөхцөл Үнэгүй Тавтай морилно уу, тавтай морилно уу, тавтай морилно уу, тавтай морилно уу. Стресс threat modeling formal verification continuous stress testing Эдгээр шийдлийг туршиж буй аж ахуйн нэгжийн хувьд энэ нь хэрэгцээний шинэ стандартыг тохируулж байна. Агент систем нь тусгаарлагдмал ажиллуулах ёстой: Planner, Executor, and credential module must exist as separate, mutual trusting processes that communicate only through signed and size-limited messages. Sensitive actions should be governed by a "two-key rule" — No critical task should be executed without human co-signature. Аюулгүй байдлын шалгах нь өдөр тутмын инженерийн рутины нэг хэсэг байх ёстой: adversarial HTML инъекци болон jailbreak суулгах нь CI / CD хоолой руу шууд суурилсан байх ёстой. Үүний зэрэгцээ, ханган нийлүүлэгч нь стандарт Software Bills of Materials (SBOMs)-ээс дээш санал болгож хэрэгтэй. Тэд ризик газрын зураг хэвлэх боломжтой байх ёстой. Энэ нь хакердсан үйлчлүүлэгч нь ямар ч өгөгдөл, үүрэг, зөвшөөрөл олж болно. , Энэ нь тусгай ризик, дэлгэрэнгүй нийгмийн үр нөлөө талаар явахыг хүсч байна. AI Risk Management Framework (AI-RMF) Үнэндээ банкны салбарт хамаарна, өндөр түвшний оюутнуудыг албан ёсны хуваалцах нь өндөр түвшний оюутнуудыг баталгаажуулах, АНУ-ын болон АНУ-ын олон улсын практиктай харьцуулахад зориулалттай байх болно. Үнэндээ, агенттик AI-ийн хэрэглээний хурд нь бидний эрсдэл менежментийг хянах чадвартай байх болно.
