paint-brush
AI epäonnistuu kyberissäkirjoittaja@mackj01
923 lukemat
923 lukemat

AI epäonnistuu kyberissä

kirjoittaja Mackenzie Jackson
Mackenzie Jackson HackerNoon profile picture

Mackenzie Jackson

@mackj01

Security Researcher. Developer Advocate. I translate security jargon into human...

4 min read2024/10/22
Read on Terminal Reader
Read this story in a terminal
Print this story
tldt arrow
fi-flagFI
Lue tämä tarina suomeksi!
en-flagEN
Read this story in the original language, English!
es-flagES
Lee esta historia en Español!
zh-flagZH
用繁體中文閱讀這個故事!
pt-flagPT
Leia esta história em português!
ja-flagJA
この物語を日本語で読んでください!
th-flagTH
อ่านเรื่องนี้เป็นภาษาไทย!
sn-flagSN
Verenga nyaya iyi muShona!
km-flagKM
អានរឿងនេះជាភាសាខ្មែរ!
ur-flagUR
اس کہانی کو اردو میں پڑھیں!
az-flagAZ
Bu hekayəni Azərbaycan dilində oxuyun!
af-flagAF
Lees hierdie storie in Afrikaans!
lt-flagLT
Skaitykite šią istoriją lietuvių kalba!
FI

Liian pitkä; Lukea

Tekoäly ei ole tehokas turvallisuuden alalla, ja se on enemmän markkinointityökalu kuin mikään tällä hetkellä hyödyllinen. Meidän on vahvistettava ihmisiä ja korvattava heidät ja keskityttävä siihen, missä tekoäly on todella hyvä – tunnistamiseen ja luokitteluun.
featured image - AI epäonnistuu kyberissä
Mackenzie Jackson HackerNoon profile picture
Mackenzie Jackson

Mackenzie Jackson

@mackj01

Security Researcher. Developer Advocate. I translate security jargon into human speak.


Lokakuussa 2022 julkaisin urani noloimman artikkelin, mutta 2 vuotta myöhemmin olen alkanut ajatella, että saatoin olla oikeassa.


Vuonna 2022 BlackHatin valtavassa myyjähallissa kulkiessa jokainen myyntipiste esitti rohkeita väitteitä tekoälystä. " Tekoälyllä toimiva analytiikka", "Tekoälyn yhdistäminen reaaliaikaiseen havaitsemiseen" tai jokin muu iskulause. Aina kun keskustelet myyntitiimin kanssa kysyäksesi tarkalleen, mitä heidän tekoälynsä teki, saat joko peräkkäisen tekoälyn ammattikieltä tai väitteen Etelämantereen maanalaisissa holvissa olevista salaisista tutkimusryhmistä.


Sen jälkeen julkaisin itsevarmasti artikkelin, jossa sanottiin, että tekoäly on pelkkä BS:n markkinointi… "BlackHat 2022, enemmän A kuin minä". Kelaus pari kuukautta eteenpäin ja ChatGPT julkaistiin. Yhtäkkiä tekoäly muuttui todeksi, ja yhtäkkiä loistava artikkelini oli vitsi ja räikeän väärä.


Mutta kuljettuani BlackHat 2024 -myyjäsalissa tänä vuonna, en ehkä ollut niin kaukana.


On kiistatonta, että tekoäly on todellakin todellinen ja että sillä on valtava potentiaali muuttaa maisemaa. Ja monella tapaa onkin jo käynyt. Jotain, jota en uskonut 2 vuotta sitten. Mutta kun kävelet Mandalay Bayn laajojen hallien läpi BlackHat 2024 -tapahtumaa varten, näet edelleen samat iskulauseet, enkä vieläkään ole löytänyt mielekästä tekoälyn toteutusta tietoturvassa, jonka voin osoittaa, että se vastaa etäältä rohkeita väitteitä.


"Yksi asia, jonka huomaan [BlackHatissa] oli, että ihmiset olivat kyllästyneitä tekoälyyn"

Ashish Rajan AI CyberSecurity Podcast


Miksi tekoäly ei ole onnistunut tehostamaan turvallisuutta?

Estääkseni vastalauseesi tiedän, että tietoturvatoimittajat todella käyttävät tekoälyä tuotteissaan. Mutta toistaiseksi meillä ei ole mitään peliä muuttavia tuloksia, joihin voimme viitata, ja suuri osa tästä riippuu siitä, kuinka he käyttävät tekoälyä.


ChatGPT:n ja sitä seuraavien tekoälymallien julkaisun jälkeen monet myyjät ryntäsivät lisäämään nämä uudet työkalut alustoilleen. Toteutus oli "tekoälypohjaiset korjausohjeet" ja "hälytysten lisäkonteksti".


Mutta tässä on todellisuus tämän takana: tämä toteutus auttaa enimmäkseen myyjää ei käyttäjää. Tämä tarkoittaa yksinkertaisesti sitä, että heidän ei tarvitse käyttää niin paljon aikaa dokumentointiinsa. Paitsi että asiayhteystiedot ovat aina vähintään 2 vuotta vanhentuneet useimmissa kaupallisissa tekoälymalleissa.


Tosiasia on, että suuri osa tästä toteutuksesta oli yksinkertaisesti tapa toteuttaa myyjien lupaukset "AI"-pohjaisten tuotteidensa takana.


Toinen ongelma, joka rajoittaa tekoälyn kykyä turvassa, on kyky kouluttaa tekoälymalleja tietyille tietoturvatiedoille. ChatGPT:n kaltaiset mallit sopivat erinomaisesti esittelemään, mitä tekoälymalli voi tehdä, mutta ne ovat kaukana luotettavista tietyissä käyttötapauksissa. Kuten Dean De Beer sanoi AI + A16z Podcast "ChatGPT on loistava vasara, [mutta] en todellakaan suosittele sitä, kun aloitat tuotteistamisen ja mittakaavan tehtäviä" . Turvallisuuteen keskittyvän mallin kouluttaminen nyt vaatii poikkeuksellista laskentatehoa, ja vaikka - ja se on iso jos - pieni yritys voisi ostaa tarpeeksi grafiikkasuorituksia tämän suorittamiseen, kustannukset olisivat tähtitieteelliset!


"Emme ole saavuttaneet hetkeä, jossa tekoäly on enemmän kuin tuotepuolen ominaisuus"

Caleb Sima AI CyberSecurity Podcast


Tämä tarkoittaa, että vain harvat suuret pelaajat pystyvät toteuttamaan tekoälyominaisuuksia, jotka ylittävät yleisen tiedon lähettämisen yleisiin AI-koulutettuihin malleihin. Tänä päivänä tekoäly on enimmäkseen sivuominaisuus suurimmassa osassa tietoturvatyökaluja, melkeinpä kikka, jonka markkinointitiimit voivat räjähtää maailmaan.

Kuinka voit tehdä tekoälyn oikein?

Kaikesta skeptisisyydestäni huolimatta myönnän, että tekoälyllä on muutamia mielenkiintoisia toteutuksia. Purppura AI SentinelOne, jota markkinoidaan tekoälyn tietoturvaanalyytikkona, on varmasti vaikuttavaa nähtäväksi toiminnassa (ainakin demossa).


Joten miten voit käyttää tekoälyä, varsinkin jos sinulla ei ole Formula 1 -joukkueen budjettia?


  1. Valtuuta ihmisiä, älä yritä korvata heitä

    Yksinkertainen totuus on, että tällä hetkellä emme luota emmekä saa luottaa tekoälyyn korvaavan ihmisen. Se on aina takana, jos emme voi luottaa siihen, ja sen kyky on rajallinen. Tekoäly on tehokas työkalu ihmisten auttamiseksi.

  2. Keskity siihen, missä tekoäly on hyvä juuri nyt, luokittelu.

    Tekoälyn alkuperäinen vahvuus oli luokittelu. Voimme syöttää tekoälylle paljon kontekstia haavoittuvuuden ympärille ja saada mallin haavoittuvuuksien luokittelemiseksi ja priorisoimiseksi.

  3. Varmista, että käytät oikeaa mallia

    Mitä enemmän priorisoimme tekoälyä, sitä enemmän tarvitsemme mallia, joka on yhtä erikoistunut. Näiden mallien itse kouluttaminen voi olla useimpien mahdollisuuksien ulkopuolella. Mutta on paljon malleja, jotka ylittävät tavalliset vasarat.

Onko "A" koskaan "I" turvassa?

Älykkyys on rohkea - ja melko moniselitteinen - sana. Tekoäly sulautuu joka päivä entistä enemmän osaksi jokapäiväistä elämäämme, ja tietoturvatyökaluilla on valtava potentiaali tekoälylle. Minulla ei ole epäilystäkään siitä, että tehokkaita innovatiivisia tekoälyn toteutuksia on ehdottomasti saatavilla tietoturvatyökaluissa. Mutta emme ole vielä siellä.


Tietoturvatoimittajat ovat venyttäneet tekoälykykyään vuosia, ja kun ChatGPT heitti heille pelastusköyden, he yrittivät taivuttaa työkalut iskulauseisiinsa. Tosiasia on, että tehokas toteutus eroaa siitä, mitä olimme aluksi kuvitelleet. Tekoäly on tehokas, kun iskulauseet vastaavat työkalua, eikä päinvastoin.

L O A D I N G
. . . comments & more!

About Author

Mackenzie Jackson HackerNoon profile picture
Mackenzie Jackson@mackj01
Security Researcher. Developer Advocate. I translate security jargon into human speak.

RIPUTA TAGSIA

TÄMÄ ARTIKKELI ESITETTIIN...

Read on Terminal Reader
Read this story in a terminal
 Terminal
Read this story w/o Javascript
Read this story w/o Javascript
 Lite
X REMOVE AD