Die technologische Entwicklung hat verschiedene Arten von KI hervorgebracht, darunter die agentenbasierte KI, die nicht nur Fragen beantwortet, sondern auch agiert. Diese KIs können autonom Entscheidungen treffen und umsetzen sowie Ziele planen und erreichen. Das Aufkommen dieser Technologie eröffnet neue Möglichkeiten der Produktivität, indem sie autonome Assistenten bietet, Daten abruft und abgleicht und gleichzeitig völlig neue Sicherheitslücken schafft. Bislang war die Diskussion um agentenbasierte KI eher theoretischer Natur, doch nun ist sie Realität geworden. Da Angreifer diese KIs manipulieren können, besteht Bedarf an technisch fundierten und gleichzeitig realistischen Strategien, um deren Angriffe abzuwehren.   Warum agentenbasierte KI die Sicherheitsgleichung verändert  Die größte Gefahr traditioneller KI-Modelle liegt in unpassenden oder unerwünschten Ergebnissen, vor allem aufgrund der vorgegebenen Eingaben. Agentische Systeme hingegen bieten Autonomie, zielorientiertes Verhalten, Wahrnehmung und Schlussfolgerung, Lernen und Anpassung sowie Interaktivität basierend auf dem Feedback der sich verändernden Umgebung. So kann ein Agent beispielsweise Aktionen verketten, indem er sich in ein Dashboard einloggt, Daten extrahiert und externe Programmierschnittstellen (APIs) aufruft – ganz ohne menschliches Eingreifen. Ein falsch konfigurierter Agent kann jedoch Fehler in Windeseile verbreiten; ein kompromittierter Agent kann sich zu einem unbemerkten Einfallstor in einem Unternehmensnetzwerk entwickeln.   Praktische Säulen der modernen agentenbasierten KI-Sicherheit  Für eine effektive Sicherheit von agentenbasierter KI sollten die Informationssicherheitsteams von Organisationen einen dreiteiligen, pragmatischen Rahmen einführen, der Bedrohungsmodellierung, sichere Laufzeitkontrollen und eine nachvollziehbare Governance umfasst.   1. Bedrohungsmodellierung  Es ist unerlässlich, das Worst-Case-Szenario zu modellieren, bevor einem Agenten Zugangsdaten oder ein API-Schlüssel übergeben werden. Denn es müssen Probleme untersucht werden, die die Reichweite der Agenten und die durch ihre Aktivitäten gefährdeten Dienste beeinträchtigen und katastrophale Folgen haben können. Ein geeignetes Gegenmittel ist eine effektive Bedrohungsmodellierung, die Aktionsgraphen abbilden und so transitive Risiken sichtbar machen kann. Dieser Ansatz wurde in letzter Zeit von zahlreichen Forschern und Branchenexperten vorgeschlagen, die zudem die Bedeutung von Bedrohungsmodellierung und Laufzeitschutz als Best Practices für die Agentensicherheit hervorgehoben haben.   2. Berechtigungen und die Einbindung des Menschen  Agenten müssen nach dem Prinzip der minimalen Berechtigungen und mit zeitlich begrenztem Zugriff arbeiten. Die Aktivierung dieser Tools ist notwendig, um sicherzustellen, dass Berechtigungen und Zugriffsrechte den richtigen Personen entsprechend ihrer Rolle gewährt werden. Dies ermöglicht es Agenten, Anmeldeinformationen direkt anzufordern. Obwohl diese Tools gut gesichert sein müssen, helfen sie Agenten auch dabei, alle relevanten Aufgaben zu erledigen, ohne Geheimnisse zu exfiltrieren, beispielsweise durch sicheres automatisches Ausfüllen oder vermittelten Zugriff.   3. Prüfung  Um die Sicherheit von KI-Systemen weiter zu erhöhen, müssen die Protokolle und Ablaufverfolgungen im System von den Agenten in einer mehrstufigen Sequenz ausgeführt werden. Dadurch kann die KI nicht nur API-Aufrufe aufzeichnen, sondern auch ihre übergeordneten Ziele erreichen und intern generierte Pläne umsetzen. All dies ist unerlässlich für die forensische Analyse nach einem Sicherheitsvorfall und für die Kontrollprozesse, die von den Compliance-Teams eines typischen Unternehmens durchgeführt werden. Dies unterstreicht, warum die OWASP-Sicherheitsrichtlinien Hinweise zu Bedrohungen durch Agenten geben und die Notwendigkeit nachvollziehbarer Entscheidungen und Maßnahmen zur Behebung von Compliance-Verstößen im Rahmen von Audits betonen.   Praxisnahe Muster, die funktionieren  Es wurden zahlreiche Muster als praktische und umsetzbare Schritte zur Absicherung agentenbasierter KI identifiziert, von denen einige im Folgenden hervorgehoben werden. Ein solches Muster ist die Zugriffsbeschränkung, die es ermöglicht, die Aktionen agentenbasierter KI einzuschränken und Genehmigungen für die Eskalation von Zugriffsrechten zu erteilen. Darüber hinaus gibt es die Überwachung ungewöhnlicher Zielabweichungen und das automatische Anhalten von Agenten, die von diesen abweichen. Schließlich erfolgt die Untersuchung von Agenten-Workflows analog zu den Tests von Microservices durch Red Teams für Angriffstests. Daher ist es für Informationssicherheitsteams in Unternehmen unerlässlich, Agenten nicht länger als Blackbox zu behandeln und keine weitreichenden und dauerhaften Berechtigungen zu erteilen, nur weil es einfacher erscheint.   Die ethische und menschliche Seite  Die Vorteile agentenbasierter KI in ihren Handlungsweisen haben die KI-Entwicklung positiv beeinflusst. Da jedoch die Gefahr besteht, dass sie durch unbeabsichtigtes Verfolgen von Zielen, Missachtung ethischer Werte und die Schwierigkeit, ihre Aktionen nach dem Einsatz zu korrigieren, die menschliche Kontrolle verlieren, muss die Technologie der Agenten so erweitert werden, dass eine menschliche Aufsicht gewährleistet ist. Wird dies nicht angemessen berücksichtigt, bleiben Fragen wie „Wer genehmigt die Aktionen eines Agenten?“ und „Wie kann man Menschen zur Rechenschaft ziehen, ohne Innovationen zu ersticken?“ unbeantwortet. Um sicherzustellen, dass sowohl ethische als auch menschliche Aspekte in agentenbasierte KI umfassend berücksichtigt werden, müssen daher folgende Punkte geprüft werden:  Abbildung des Aktionsdiagramms des Agenten und Identifizierung wirkungsvoller Kontaktpunkte.  Alle Zugangsdaten werden sicher verwahrt und temporäre Token über einen Broker bereitgestellt.  Durchsetzung des Prinzips der minimalen Berechtigungen und kurzer Token-Lebensdauern.  Durchführung von Adversarial Tests, die eine Kompromittierung des Agenten simulieren.  Einführung einer manuellen Genehmigungsinstanz für jede Maßnahme, die die Produktion verändert oder Gelder verschiebt.   Abschluss  Agentenbasierte KI verändert die Arbeitswelt bereits schneller als erwartet. Zwar gibt es bereits einige Herausforderungen durch Angreifer, doch der richtige Ansatz besteht nicht darin, die Innovation agentenbasierter KI zu stoppen, sondern praktische Schutzmechanismen zu entwickeln, die Agenten wertvoll und sicher machen. Wir wünschen uns eine Zukunft, in der Agenten alltägliche Aufgaben automatisieren, Sicherheitsteams beruhigt schlafen können und der Mensch die letztendliche Verantwortung trägt – genau das ermöglicht agentenbasierte KI. Daher müssen Menschen, während die KI die Ausführung übernimmt, weiterhin strategische Entscheidungen überwachen, um ethische Geschäftspraktiken zu gewährleisten und unbeabsichtigte Folgen zu vermeiden.

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Dieses Audio ist in der Originalsprache der Geschichte produziert!

Der pragmatische Leitfaden zur Bekämpfung abtrünniger KI-Agenten

About Author

KOMMENTARE

Hängeetiketten

DIESER ARTIKEL WURDE VORGESTELLT IN

Related Stories

Welcome to HackerNoon Decoded: The Best of 2024 Tech Blogging

HackerNoon Decoded 2024: Wir feiern die Community unserer Technologieunternehmen!

HackerNoon Decoded 2024: Celebrating Our Programming Community!

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

Welcome to HackerNoon Decoded: The Best of 2024 Tech Blogging

HackerNoon Decoded 2024: Wir feiern die Community unserer Technologieunternehmen!

HackerNoon Decoded 2024: Celebrating Our Programming Community!

HackerNoon Decoded 2024: Celebrating Our Life Hacking Community!

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps