ჩრდილოეთ კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკური კლასიკა კლიენტების ავტომატური ბრაუზერზე დაფუძნებული AI- ის მენეჯერი უარყოფითად გაქვთ CTO- ის კრედიტიფიკაციები. საღებავი არ იყო არაფერი, ვიდრე ერთ-ერთი საღებავი GitHub- ს შიდა პრობლემის გვერდზე შეინახეთ, რომ ეს არის Open Source Framework, რომელიც უკვე 17 მილიონი დოლარი სინამდვილეში და აწარმოებს საიტები VC მსოფლიოში. ვხედავ 2 დღე Browser გამოყენება გაზრდილი ეს სწრაფი კონცეფტის ნიმუში გააჩნია ბევრად უფრო გლუვი პრობლემა. მიუხედავად იმისა, რომ საავტომობილო კაპიტალი მუდმივად გააუმჯობესებს LLM- ის ოპერაციების სწრაფად და უფრო შესაძლებელი გაკეთება, უსაფრთხოება ჯერ კიდევ უწყობს. დღეს, ავტომატური ბრაუზერზე დაფუძნებული ოპერაციები უკვე ხელმისაწვდომია პირადი შეტყობინებები, წიგნი სასტუმროები და ფინანსური ანგარიშები. ყველაზე საავტომობილო AI- ის ოპერაციები იყენებენ მათ ინსტრუმენტი (გ.შ. ინტერფეისი, რათა მიიღოთ გარე მონაცემები). თუმცა, ინდუსტრია, რომელიც იძლევა მათი ზრდის, ჯერ კიდევ უსაფრთხოებას ითვებს ფუნქ შესაბამისად , 82% დიდი კომპანიების დღეს იყენებს მინიმუმ ერთი AI მენეჯერი მათი წარმოების workflows, ერთად 1.3 მილიარდი Enterprise მენეჯერი მომხმარებლები პროგნოზი 2028. ბაზრის კვლევითი How Hackers Exploit Enterprise AI Agents How Hackers Exploit Enterprise AI Agents (ჩვეულებრივ: როგორ hackers გამოიყენება Enterprise AI Agents) Zenity Labs, ერთ-ერთი წამყვანი მომწოდებელი Agentic AI უსაფრთხოების და მართვის საწარმოებს, MS Copilot Studio- ის მეტი 3,000 პერსონალი, რომლებიც პოპულარულად ხელმისაწვდომია მომხმარებლის მომსახურების კითხვებს, მხარდაჭერა ბილეთების დამუშავებას, ინტეგრირებული CRM სისტემების ხელმისაწვდომობას და სხვადასხვა ბიზნეს ოპერაციების გაკეთებას. აღმოაჩინეთ კომპანიის კვლევა აჩვენა, რომ ეს არის სრულყოფილი სატელევიზიო სატელევიზიო სატელევიზიო. OSINT ტექნოლოგია გამოიყენება, რათა ჩაწეროთ და დააყენოთ Publicly Exposed Copilot Studio- ის მენეჯერი. განიხილეთ, თუ როგორ უნდა გააკეთოთ, თუ როგორ უნდა გააკეთოთ, თუ როგორ უნდა გააკეთოთ, და თუ როგორ უნდა გააკეთოთ, თუ როგორ უნდა გააკეთოთ. , როგორც მექანიკაციები გაქირავებული გარეშე ნებისმიერი ადამიანის ინტერაქტიის - ძირითადად გახდეს ავტომატური backdoor Enterprise სისტემები. , სადაც თავმჯდომარეებს შეუძლიათ დატოვოთ მთელი CRM მონაცემთა ბაზები და გააჩნოს სქესობრივი ინტერიერის ინსტრუმენტები, ყველა ისით, რომ გაუმჯობესოს ოპერაციების სამუშაო ფართობი, რომელიც არ აქვს შესაფერისი დაცვა. reconnaissance weaponization compromise exfiltration Copilot Studio- ის უსაფრთხოების უსაფრთხოების ცუდი იყო, რადგან ეს ძალიან სქესობრივი შეზღუდვები, როგორიცაა სქესობრივი, ზედაპირის დონის დაცვა (მაგ. ინსტრუქციები AI- სთვის, თუ რა უნდა და არ უნდა გააკეთოთ, ტექნიკური კონტროლის გარეშე). სქესობრივი შეტყობინებებს შეტყობინებულა, რომ "მე მხოლოდ legitime კლიენტებს დაეხმარება", მაგრამ ასეთი წესები ადვილად შეუზღუდავი. სქესობრივი შეზღუდვები, რომელიც განკუთვნილია მძიმე ინტენსიურ ინტენსიების გადარჩენისთვის, არ იყო ეფექტური, ხოლო სისტემის შეტყობინებები, რომლებიც აღწერილი "კამენტული ქცევის" ეს და სხვა ინტეგრირებული AI- ის მექანიზორების zero-click exploits გამოჩნდა Black Hat USA 2025- ში, ძირითადი ეფექტურობა იყო, რომ უფრო ავტომატური არის AI- ის ოპერტი, უფრო მაღალი არის უსაფრთხოების რისკი. . the more autonomous the AI agent, the higher the security risk როდესაც ისინი იწყებენ დამოუკიდებელი ოპერაციებს, ისინი იწყებენ თავმჯდომარე ზედაპირებს, რომლებიც უმრავლესობა ორგანიზაციებს არ იცის. მაგალითად, Salesforce- ის Einstein- ის პლატფორმა ერთხელ შეუზღუდავი იყო მომხმარებლის კომუნიკაციის მიმოხილვა სატვირთო კონტაქტებს. Google- ის Gemini- ის შეიძლება გამოიყენოს ინდივიდუალური რისკით, რომელიც შეუძლია კონფიდენციალურობის კონტაქტებს და ფარული ინფორმაციის გაფართოებას. გარდა ამისა, კვლევითებს წარმატებული იყო Google- ის Gemini- ის შეუზღუდავი გაფართოება Smart Home მოწყობილობები. hacking attacks დახურული სინათლის, გაიხსნა blinds, და დაწყებული boiler - ყველა გარეშე ნებისმიერი ბრძანებები მცხოვრები. კონტროლი From AI Browsers to Enterprise Backdoors AI ბრაუზერები Enterprise Backdoors ახალი Guardio აჩვენებს, რომ AI ბრაუზერები, როგორიცაა Perplexity ან ბრაუზერის კომპანია, მგრძნობიარეა სატვირთო და სატვირთო გამოქვეყნება კონფიდენციალურობის მონაცემები, რადგან ისინი ჯერ კიდევ არ შეუძლიათ განსხვავდეს სატვირთო და რეალური საიტები და ბმულები. სტუდენტები კონტაქტი დღეს მრავალჯერადი კონტროლირებული ტესტიებში, რომლებიც Guardio- ის მიერ გაკეთდა, AI- ის ბრაუზერების მენეჯერი აჩვენა, თუ როგორ ადვილად მათ შეუძლიათ შეუზღუდავი სისტემები - რეალურ მომხმარებელს რისკით. პირველი ექსპერიმენტი შეამოწმოდა, თუ როგორ ოპერაციები აწარმოებს ონლაინ ყიდვა. ტესტერში გაიხსნა ფარული Walmart ვებ-გვერდზე, და Comet ატვირთვა, გარეშე გააქტიურება ნებისმიერი სატვირთო შეტყობინებები. ოპერაციული მუდმივად დასრულდა სამუშაო — შეიძინეთ Apple Watch. კიდევ უფრო მნიშვნელოვანია, ბრაუზერი ავტომატურად შეავსოს გადახდის დეტალები და გადაზიდვის მისამართი, მიუხედავად იმისა, რომ ნათელი შავი ფანჯრები აჩვენებს, რომ საიტი იყო სატვირთო. კიდევ ერთი ტესტი ფოკუსირება ელ ფუნქციონირება. კვლევითი გამოგზავნა ფიტნეს ელექტრონული ფოსტის გამოჩნდა, როგორც Wells Fargo შეტყობინება, რომელიც შეიცავს ცუდი ბმულზე. Comet განხილვა, რომ ეს არის ლითონის მოთხოვნა ბანკის და დაუყოვნებლივ დააწკაპუნდა. ფიტნეს ფიტნეს, სააგენტო შევიდა სქესობრივი ბანკის დეტალები გარეშე შეუზღუდავი ან კონფიგურაცია, სრულიად გააჩნია მომხმარებლის ფინანსური გაქირავება. თებერვალი, 2016 წელს, შეთავაზება გამოქვეყნდა, რათა დააკმაყოფილოს, თუ როგორ უნდა დააკმაყოფილოს, თუ როგორ უნდა დააკმაყოფილოს, თუ როგორ უნდა დააკმაყოფილოს. Guardio- ის მკვლევარები აჩვენებენ, რომ ეს არის ტენდენცია: AI ბრაუზერების განვითარებლები ამჟამად აპირებენ მომხმარებლის გამოცდილება robust უსაფრთხოების შესახებ. developers of AI browsers currently prioritize user experience over robust security. პრაქტიკაში, ეს იმას ნიშნავს, რომ უსაფრთხოების მექანიზმებს ხშირად შეუზღუდავია, როგორიცაა Google Safe Browsing - გადაწყვეტილებები, რომლებიც ხშირად არ არის საკმარისი თანამედროვე, AI-driven რისკები. How to Give Agentic AI a Security-First Mandate How to Give Agentic AI a Security-First მენეჯერი კონტაქტი არის ნათელი: სისტემები, რომლებიც ინტერფეისი და მუშაობს Live Web კონტაქტი უნდა შექმნილია . "security-first" architecture and hard boundaries, i.e., actual technical controls that can't be bypassed through prompt manipulation კვლევითი ამჟამად, ინვესტორებს, რომლებიც ოთხი ნომერი თანხებს საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომობილო საავტომ და და ფინანსური ინექციები ფუნქციონირება მხოლოდ არ არის საკმარისი; უსაფრთხოება უნდა იყოს ძირითადი არქიტექტურის პრინციპი. სტრესი threat modeling formal verification continuous stress testing ეს მოთხოვნების ახალი სტანდარტი განკუთვნილია საწარმოებს, რომლებიც ასეთი გადაწყვეტილებები შეამოწმებენ. საავტომობილო სისტემები უნდა ოპერაციონირებულ იქნას: დიზაინერი, აღმასრულებელი და საკრედიტო მოდულები უნდა იყოს განსხვავებული, ერთ-ერთი თავსებადი პროცესები, რომლებიც კომუნიკირებენ მხოლოდ რეგისტრირებული და ზომის შეზღუდული შეტყობინებები. სქესობრივი ოპერაციებს უნდა შეესაბამება "ღუთი-კოვანი წესის" მიერ - არ უნდა გააკეთოთ მნიშვნელოვანი სამუშაო, თუ არ აქვს ადამიანის კონფიგურაცია. უსაფრთხოების შეამოწმება ასევე უნდა იყოს ნაწილი ყოველდღიური ინჟინერი routine: adversarial HTML ინექციები და jailbreak შეტყობინებები უნდა დააყენოთ პირდაპირი CI / CD მილები, ნებისმიერი ერთჯერადი ცუდი ბლოკირების გათავისუფლება. ამავე დროს, მომწოდებლები უნდა უზრუნველყოს უფრო მეტი, ვიდრე კლასიკური Software Bills of Materials (SBOMs). ისინი უნდა იყოს შეუძლიათ გამოქვეყნოს რისკის რუკები, რომელიც ნათლად აჩვენებს, რა მონაცემები, როლები, და საშუალებები თავმჯდომარე უნდა მიიღოს, თუ პერსონალი შეუზღუდავი. , რომელიც მოითხოვს ინდივიდუალური რისკების და ფართო საზოგადოებრივი ეფექტების გადარჩენა. AI Risk Management Framework (AI-RMF) ინტენსიური კონფიდენციალურობის სისტემა ძირითადი ინფრასტრუქტურის მოწყობილობების განახლება უნდა იყოს რეგულარული სტრესი ტესტირება. როგორც ბანკის სფეროში, დამოუკიდებელი Red-Team- ის შეფასება, რომელიც მოითხოვს მაღალი დონეზე შედეგების გამოქვეყნებას, იქნება უპირატესობა და შეესაბამება აშშ-ში და ევროკავშირის საერთაშორისო პრაქტიკაში. სხვა შემთხვევაში, საავტომობილო AI- ის მიღების სიჩქარე სწრაფად უპირატესობთ, ვიდრე ჩვენ შეგვიძლია მისი რისკების მართვა.
