Unternehmen nutzen KI und ML, aber nicht so stark, wie das Management denkt

Wir haben über 1.200 Technologieexperten aus aller Welt, darunter über 300 Vizepräsidenten und Führungskräfte auf C-Ebene, zu ihrer Nutzung von KI/ML und ihren Sicherheitsbemühungen in der Software-Lieferkette (SSC) befragt. Bei der Analyse ergab sich eine überraschende Lücke zwischen dem, was Führungskräfte glauben, und dem, was Entwickler und Ingenieure berichten.

Folgendes haben wir herausgefunden:

• 88 % der Führungskräfte, aber nur 60 % der Entwickler sagen, dass KI-/ML-Tools in ihre Sicherheitsscan- und -behebungsprozesse integriert sind.
• 90 % der Führungskräfte, aber nur 63 % der Entwickler sagen, dass ihr Unternehmen ML-Modelle in unseren Softwareanwendungen verwendet.
• 92 % der Führungskräfte, aber nur 70 % der Entwickler geben an, dass sie über Lösungen zum Erkennen schädlicher Open-Source-Pakete verfügen.
• 66 % der Führungskräfte, aber nur 41 % der Entwickler geben an, dass sie Sicherheitsscans auf Code- und Binärebene durchführen.

Laden Sie den Bericht herunter oder lesen Sie hier weiter, um mehr zu erfahren.

Wenn es um die Nutzung von KI/ML geht, glauben 88 % der Führungskräfte, dass diese neue Technologie in ihre Prozesse zur Sicherheitsüberprüfung und Behebung von Schwachstellen integriert wird, aber nur 60 % der Entwickler geben dies an.

Die Studie zeigte auch regionale Unterschiede auf.

Die Region APAC ist weltweit führend: 99 % der Führungskräfte glauben, dass ihre Organisation KI/ML in ihre Sicherheitsprozesse integriert. Dicht dahinter folgen die USA mit 91 %. Sie schreiten bei der Integration von ML-Modellen in Softwareanwendungen schneller voran als die Region EMEA (82 %). Dies könnte auf den Wettbewerbsdruck in den USA und/oder ein risikoscheueres Klima in Europa aufgrund strenger Vorschriften zurückzuführen sein.

Verwenden Sie ML-Modelle in Softwareanwendungen?

Unternehmen müssen sich vorrangig auf ML-Modelle und KI-Komponenten konzentrieren und sicherstellen, dass Führungskräfte und Entwickler in Bezug auf diese Aufgaben übereinstimmen. Über 90 % der Führungskräfte gaben an, dass ihre Unternehmen ML-Modelle in ihre Softwareanwendungen integrieren, doch nur 63 % der Entwickler stimmten dieser Aussage zu.

Haben Sie Lösungen zum Erkennen schädlicher Open-Source-Pakete?

Während 92 % der Führungskräfte überzeugt waren, dass ihre Organisationen über die notwendigen Tools verfügten, um bösartige Open-Source-Pakete zu identifizieren, teilten nur 70 % der Entwickler diese Ansicht. Diese Diskrepanz deutet auf ein unterschiedliches Verständnis der Sicherheitsherausforderungen bei Open-Source-Paketen zwischen den beiden Gruppen hin. Führungskräfte schienen die Zeit zu unterschätzen, die Sicherheitsteams damit verbrachten, Schwachstellen zu beheben und Genehmigungen für neue Pakete oder Bibliotheken einzuholen.

Darüber hinaus gingen die Führungskräfte davon aus, dass ein größerer Anteil der Codeüberprüfungen automatisiert war, als die Entwickler wahrnahmen.

Führen Sie Sicherheitsscans auf Code- und Binärebene durch?

Während zwei Drittel der Führungskräfte glaubten, dass ihre Organisationen Sicherheitsscans auf Code- oder Binärebene durchführen, stimmten nur 41 % der Entwickler dem zu. Die Führungskräfte gaben auch an, dass in ihren Organisationen mehr Anwendungssicherheitslösungen verwendet werden als die Entwickler berichteten, was darauf hindeuten könnte, dass diese Tools nicht ausreichend genutzt werden.

Überbrücken Sie die Lücke

Da böswillige Akteure ihren Fokus auf SSCs verstärken, stehen Unternehmen zunehmend unter Druck, ihre Abwehrmaßnahmen zu stärken. Das kontinuierliche Wachstum des Open-Source-Ökosystems sowie die rasante Entwicklung von Sicherheitstools zwingen Führungskräfte dazu, nach wirksameren Methoden zum Schutz ihrer Softwareentwicklungsprozesse zu suchen. Der Schutz von KI/ML ist keine einfache Ein-Schritt-Lösung. Der erste Schritt besteht darin, ein solides Verständnis dafür zu erlangen, wie und wo KI in Ihrem Unternehmen eingesetzt wird, und dann eine Schutzstrategie zu entwickeln. Sicherheits- und IT-Leiter müssen außerdem sicherstellen, dass jeder, von Führungskräften bis zu Entwicklern, die aktuelle Risiko- und Sicherheitslage des Unternehmens versteht, insbesondere im Hinblick auf den Einsatz von KI. Durch einen proaktiven Ansatz zur Einhaltung neuer Vorschriften, die Verpflichtung zum Schutz des Perimeter, um „schlechte Dinge“ zu verhindern, sowie die Qualität und Sicherheit von KI-Modellen können Unternehmen ihre Abwehrmaßnahmen stärken und ihren Entwicklern gleichzeitig die Freiheit zur Innovation geben.