Nous vivons dans des temps fous. l'IA automatise le code, et il automatise également l'exploitation des vulnérabilités. Le code écrit par l'IA introduit de nouveaux types de vulnérabilités que nous n'avons jamais imaginés, aux côtés des mêmes anciennes, mais à une échelle beaucoup plus grande. Nous ne savons pas encore comment faire face à cela. tout le monde adopte de nouvelles technologies, et la sécurité devient plus complexe à mesure que la manipulation humaine s'étend maintenant au logiciel lui-même. Thesis Thèse Cet article est basé sur trois hypothèses : 
 
 
 
 Dans les années à venir, 99% du code sera écrit, testé et révisé par l’IA. L’utilisation des modèles d’IA intégrés dans le logiciel continuera de croître. Le code écrit par l’IA n’est pas inhérentement plus sûr que le code écrit par les humains. Si ces hypothèses sont vraies, les implications pour la sécurité des applications sont énormes.Le développement axé sur l’IA n’éliminera pas le risque.Il le multipliera, et la vitesse du changement laissera peu de place aux processus manuels.Le métier de la sécurité devra se réinventer pour rester pertinent. What Changed Ce qui a changé Tirer les demandes, les tests, même les déploiements - une grande partie est automatisée. AI is already reshaping how software gets written. L’IA est déjà en train de remodeler la façon dont le logiciel est écrit. Cela conduit à : 
 
 
 
 Plus de code, produit plus rapidement Moins de gens le révisent Les mêmes bugs et risques que nous avons toujours eu En d'autres termes, les problèmes n'ont pas disparu. Ils ne font que apparaître à l'échelle. La vitesse de livraison a considérablement augmenté, mais les filets de sécurité qui ont traditionnellement capturé des problèmes, tels que les évaluations par les pairs, les cycles de QA et les tests de sécurité manuels, se rétrécissent. Où se situe la sécurité Presque tous les ingénieurs en sécurité d’applications que j’ai rencontrés ont des tâches que les développeurs souhaitent gérer pour la sécurité, mais ces tâches sont souvent ignorées ou dépréciées. La bonne nouvelle est que l'IA suit les instructions. Il n'ignore pas les billets de Jira. Il ne discute pas pendant la planification du sprint. Au lieu de poursuivre les développeurs, vous pouvez automatiser les correctifs, automatiser les évaluations et même automatiser les pratiques de développement sécurisées. Au lieu de former les humains, vous pouvez maintenant fournir des conseils de cybersécurité aux agents. Nous ne faisons que gratter la surface de l'automatisation qui vient. Cela signifie que le rôle d'AppSec peut passer de la persuasion et de la police à l'activation et à l'emballage. Vous pouvez littéralement coder des pratiques sécurisées dans le tissu même de la façon dont le logiciel est généré. De nouveaux risques, de nouvelles responsabilités L’IA introduit également de nouvelles surfaces d’attaque : 
 
 
 
 Injection rapide Informations sur l'intoxication Abus automatique de la chaîne d'approvisionnement Injection rapide Informations sur l'intoxication Les attaquants adoptent également l'IA, et ils se déplacent plus rapidement que les cycles de patch traditionnels peuvent accueillir. Si la réparation prend encore des semaines, cela n'est pas efficace. La barre est maintenant des heures. Et ce ne sont pas des scénarios hypothétiques - les premiers exemples apparaissent déjà dans la nature. Imaginez un adversaire automatisé qui ne dort jamais, scanne et exploite les vulnérabilités à l'échelle, et vous commencez à voir les paris. Pour les ingénieurs d’AppSec, c’est à la fois un défi et une opportunité.Vous ne vous protégeez pas seulement contre de vieilles menaces vêtues de nouveaux vêtements; vous définissez ce que la sécurité signifie même dans cette nouvelle ère. Ce que les équipes AppSec doivent faire Ce changement modifie la description du poste : 
 
 
 
 
 Intégrer la sécurité directement dans les flux de travail automatisés Réparation automatique, pas seulement détection Réduire le MTTR en heures Surveiller les menaces spécifiques à l’IA dans le cadre des opérations normales Si vous n'êtes pas sûr par où commencer, concentrez-vous sur la réduction du MTTR - mais uniquement sur les résultats qui comptent vraiment. Ne gaspillez pas les cycles essayant de corriger rapidement les faux positifs. Prioriser ce que vous savez est réel et impactant. Au-delà de cela, les dirigeants de la sécurité doivent penser à la gouvernance et à la responsabilité. Qui possède le code basé sur l’IA? Qui est responsable de s’assurer que la logique générée par l’IA n’introduit pas de violations de la conformité ou de préjugés? Ces questions déplacent AppSec du technique au stratégique. Conclusion L'IA fait d'AppSec le centre de la façon dont le logiciel moderne est construit et sécurisé.Le travail est plus difficile, mais il est également plus impactant.AppSec a maintenant plus d'influence que jamais pour façonner la façon dont le logiciel sécurisé est construit.La possibilité de faire un impact significatif sur l'ingénierie et les opérations est réelle et croissante. Si vous êtes un ingénieur AppSec aujourd'hui, vous avez de la chance.Vous êtes au milieu de la plus grande transformation que le domaine ait jamais vue.Votre capacité d'adaptation, d'automatisation et de conduite déterminera non seulement la sécurité des applications individuelles, mais potentiellement la résilience d'écosystèmes numériques entiers. 
 
 Par Amit Chita, Field CTO chez Mend.io By Amit Chita, Field CTO at  Mend.io Je suis.io Je suis.io

Cet audio est produit dans la langue originale de l'histoire !

Si vous êtes un ingénieur AppSec, vous avez de la chance

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Croissance des crypto-monnaies : créer des profils d'utilisateurs efficaces

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Croissance des crypto-monnaies : créer des profils d'utilisateurs efficaces

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps