AI ነቲ ጸጥታዊ መልክዕ ብዓቢኡ ንኽቕይሮ ዓመት ዘይመልእ ግዜ ወሲዱሉ። ጀነሬቲቭ ኤኣይ ኣብ ወርሒ ለካቲት 2024 ቀንዲ መስመር ክኸውን ጀሚሩ።እተን ቀዳሞት ሒደት ኣዋርሕ ብኣድናቖት እየን ኣሕሊፈን። እንታይ ክገብር ከም ዝኽእልን ከምጽኦ ዝኽእል ብቕዓትን ዘይተሰምዐ እዩ። ብመሰረት ሀ  ፣ ኣስታት 75% ካብቶም ዲቨሎፐራት ኣብዚ እዋን እዚ መሳርሒታት AI ኮዲንግ ይጥቀሙ ወይ ክጥቀሙ መደብ ኣለዎም።   2024 ስታክ ኦቨርፍሎው ዲቨሎፐር ዳህሳስ  ካብዞም መሳርሒታት እዚኣቶም፡ ብፍላይ ናይ OpenAI ChatGPT ተፈታዊ ኮይኑ፡ ምስ...  ፣ ምስ GitHub Copilot ዝስዕብ፣ ብ44% ካብ ዲቨሎፐራት ዝጥቀሙሉ ዘለዉ። ብመንጽር ምጽሓፍ ኮድ 82% ካብቶም ዲቨሎፐራት መልሲ ኣብ ዝደልዩሉ እዋን AI ክጥቀሙ ከለዉ 68% ድማ AI ይጥቀሙ። ኮድ ብግቡእ ከመይ ጌርካ ከም እትጽሕፎ ዝርዳእ ዲቨሎፐር ምስ ጀነሬቲቭ AI ክትጽምብሮ ከለኻ፡ ልዕሊ 50% ወይ ዝሓሸ ብቕዓት ልሙድ እዩ።   82% ካብቶም ዲቨሎፐራት ስሩዕ ኣጠቓቕማ ከምዘለዎም ዝሕብሩ  ምቕባል ሰፊሕ ኮይኑ፡ ብዛዕባ ልክዕነትን ድሕነትን ናይቲ ብAI ዝፍጠር ኮድ ግን ስክፍታታት ኣሎ። ንሓደ ምኩር ዲቨሎፐር ወይ ናይ ኣፕሊኬሽን ድሕነት በዓል ሞያ፡ ብጀነሬቲቭ ኤኣይ ዝተፈጥረ ኮድ ጸገማቱ ከም ዘለዎ ንምርኣይ ግዜ ኣይወስድን እዩ። ብውሑዳት ቅልጡፋት ምልክታት ጥራይ፡ ብልሽታትን ጉዳያትን ብቕልጡፍ ይረኣዩ።  ብዛዕባ AI ዝተሓጎሱ ዲቨሎፐራት ግን ካብ ናይ ቀደም ናይ ጸጥታ ስሕተት ንላዕሊ ናብ ኮድ የእትዉ ኣለዉ። ብተወሳኺ ኣብቲ ዘማዕብልዎ ፍርያት ሞዴላት AI እናኣምጽኡ ይመጹ ኣለዉ-መብዛሕትኡ ግዜ ብዘይ ንቕሓት ጸጥታ፡ ኣሽንኳይዶ ፍቓድ- እዚ ድማ ምሉእ ብምሉእ ጉዳያት ናብ ምብትታን የምጽእ ኣሎ። ዕድል ኮይኑ AI ናብ ቅኑዕ ኣንፈት ምስ ዝሕብር ነዞም ጉዳያት ኣብ ምምካት እውን ብሉጽ እዩ።   እዚ ጽሑፍ እዚ ብኸመይ፤  AI ትካላት ኩሉ እቲ ዘለዎምን ዝጥቀሙሉን ዘለዉ ናይ AI ቴክኖሎጂታት ንኽረኽባ ክሕግዘን ይኽእል እዩ፣ ዋላ እውን ናይ ጸጥታ ጋንታታት ዘይፈልጥዎ ጽላሎት AI።  AI ካብ ኮድ ትርጉማዊ ዳታ ነጥቢ ምውጻእ የኽእል፣ እዚ ድማ ኣብ ድሕነት መተግበሪ ሰውራዊ ምዕባለ እዩ።  AI-powered red teaming ኣብ LLMsን ኣፕሊኬሽናትን ንዘሎ ተቓላዕነት ከቃልዕ ይኽእል።  AI ምስ AI ዝተኣሳሰሩ ተቓላዕነት ንምክልኻል መከላኸሊታትን ናይ ምቅላል ስትራተጂታትን ኣብ ምፍጣር ክሕግዝ ይኽእል።  AI ንደቨሎፐራት ኣብ ኣፕሊኬሽናቶም ዝጥቀምሉ ኤፒኣይ ንምርዳእን ውሑስ ንምግባርን ክሕግዞም ይኽእል።   ጽላሎት AI: ኣብ ኮድቤዝካ ዝሕባእ ዘይርአ ስግኣት  ሓደ ስናርዮ እሞ ሕሰብዎ፡ ዲቨሎፐራት፡ ምስ መዛኑኦም ምትእስሳር ዘለዎም ኣድላይነት ዝድረኹ ወይ ድማ በቃ ብዛዕባ እቲ AI ዘቕርቦ ተሓጒሶም፡ ብዘይ ኣፍልጦ ናይቲ ናይ ጸጥታ ጉጅለ፡ ናይ AI ሞዴላትን መሳርሕታትን ናብ ኣፕሊኬሽናት ዘዋሃህድዎ ዘለዉ። Shadow AI ብኸምዚ እዩ ዝፍጸም።  ኣብ Mend.io ዝገበርናዮ ትዕዝብቲ ሓደ ዘሰንብድ ዝንባለ ኣቃሊዑ ኣሎ፡ ኣብ መንጎ ጋንታታት ጸጥታ እንታይ ይፈልጥዎን ብጭቡጥ ዲቨሎፐራት ብመንጽር AI እንታይ ይጥቀሙ ከምዘለዉን ዘሎ ሬሾ ረቛሒ 10 እዩ።እዚ ማለት ንነፍሲ ወከፍ ፕሮጀክት AI ኣብ ትሕቲ ስልጣን ውሕስነት፡ 10 ተወሳኺ ኣብ ጽላሎት ይንቀሳቐሱ ኣለዉ፡ እዚ ድማ ንጸጥታ እቲ ትካል ዓቢ ሓደጋ ይፈጥር።  ሻዶ ኤኣይ ስለምንታይ እዩ ኣዝዩ ዘተሓሳስብ?    : ዘይተቖጻጸሩ ሞዴላት AI ዝፍለጡ ተቓላዕነት ክዕቅቡ ይኽእሉ፣ እዚ ድማ መተግበሪኻ ተቓላዓይ ወይ ንመጥቃዕቲ ተቓላዓይ ይገብሮ። ዘይተቖጻጸሩ ተቓላዕነት    : ብዘይግቡእ ዝተዋቕረ AI ብዘይ ፍላጥ ንሃሳስ ዳታ ከቃልዕ ይኽእል እዩ፣ እዚ ድማ ናብ ምፍራስ ብሕታዊነትን ንመቆጻጸሪ መቕጻዕትን የስዕብ። ምፍሳስ መረዳእታ    : ዘይተፈቕዱ ናይ AI ሞዴላት ምጥቃም ንመምርሒታት ኢንዱስትሪን ደረጃታት ድሕነት ዳታን ክጥሕስ ይኽእል። ምጥሓስ ምኽባር  ጽቡቕ ኣጋጣሚ ኮይኑ፡ AI ባዕሉ ነዚ ብድሆ መፍትሒ የቕርብ። ምዕቡላት ብAI ዝምራሕ መሳርሒታት ድሕነት ንብምሉኡ ኮድቤዝካ ስካን ክገብሩ ይኽእሉ፣ ንኹሎም ኣብ ጥቕሚ ዘለዉ ቴክኖሎጂታት AI፣ እንተላይ ነቶም ካብ ምርኣይ ዝተሓብኡ ቴክኖሎጂታት ከለልዩ ይኽእሉ። እቲ ኩለመዳያዊ ዝርዝር ንብረት፡ ጋንታታት ጸጥታ ኣብ ጽላሎት AI ርኡይነት ንኽረኽባ፡ ሓደጋታት ንምግምጋምን ኣድለይቲ ናይ ምቅላል ስትራተጂታት ንምትግባርን ዘኽእል እዩ።   ትርጉማዊ ድሕነት፡ ሓድሽ ዘመን ኣብ ትንተና ኮድ  ባህላዊ መሳርሒታት ድሕነት መተግበሪ ኣብ መሰረታዊ ዳታን ትንታነ ዋሕዚ ቁጽጽርን ይምርኮሱ፣ እዚ ድማ ብዛዕባ ተግባር ኮድ ውሱን ርድኢት ይህቡ። AI ግን ትርጉማዊ ርድኢት ናይ ምሕዋስን ከም ውጽኢቱ ድማ ዝሓሸ ርኽበታት ናይ ምሃብን ክእለት ኣለዎ።   ሕጂ AI-enabled ዝኾኑ ናይ ጸጥታ መሳርሒታት ካብ ኮድ ትርጉማዊ ዳታ ነጥብታት ከውጽኡ ይኽእሉ፣ እዚ ድማ ብዛዕባ ሓቀኛ ዕላማን ባህርን AI ሞዴላት ዝዓሞቐ ርድኢት ይህቡ። እዚ ድማ ናይ ጸጥታ ጋንታታት፤  ዝተሓላለኹ ተቓላዕነት ኣለሊ፦ ብኻልእ ኣገባብ ብባህላዊ መሳርሒታት ጸጥታ ከይተዓዘቡ ዝጸንሑ ተቓላዕነት ርኸብ  ባህሪ ሞዴል AI ምርዳእ፦ ሞዴላት AI ምስ ዳታን ካልኦት ስርዓታትን ብፍላይ ምስ ወኪል AI ወይ RAG ሞዴላት ብኸመይ ከም ዝራኸቡ ንጹር ርድኢት ምርካብ።  ፈተነ ድሕነት ኣውቶማቲክ ምግባር፦ ኣብ ትርጉማዊ ርድኢት ዝተመርኮሰ ዝያዳ ዝተራቐቐን ዕላማ ዝገበረን ናይ ድሕነት ፈተነታት ምምዕባል፣ ከምኡ’ውን QA ኣውቶማቲክ ስክሪፕትታት ከምኡ’ውን ውሽጣዊ ኣሃዱ ፈተነ ብቕልጡፍ ምጽሓፍን ምዕራፍን ምኽኣል።   ተጻባኢ AI: ምልዓል AI ቀይሕ ጋንታታት  ልክዕ ከም ዝኾነ ካልእ ስርዓት፡ ሞዴላት AI እውን ንመጥቃዕቲ ተቓላዕቲ እዮም። AI red teaming ሓይሊ AI ተጠቒሙ ተጻባኢ መጥቃዕቲ ንምምሳል ይጥቀመሉ፣ ኣብ ስርዓታት AIን ኣተገባብርኡን ንዘሎ ድኽመታት የቃልዕ። እዚ ኣገባብ እዚ ተጻባኢ ምልክታት ምጥቃም ዘጠቓልል ኮይኑ፡ ብፍሉይ ዝተሰርሑ እታዎታት ተቓላዕነት ንምምዝማዝን ባህርያት AI ንምትዕጽጻፍን ዝተዳለዉ እዩ። እዚ ክፍጸመሉ ዝኽእል ፍጥነት፡ AI ኣብ ቀረባ እዋን ብብዝሒ ኣብ ጥቕሚ ክውዕል ምዃኑ ዳርጋ ርግጸኛ ይገብሮ።    መሳርሒታት AI Red Teaming ብምጥቃም፡ ኣፕሊኬሽናት ድኽመታት ንምልላይን ስርዓታት ንምውራድን ዝተዳለወ ኣረሜናዊ መጥቃዕቲ ከጋጥሞም ይኽእል። ገለ ካብዞም መሳርሒታት ምስቲ ዳስት ከመይ ከም ዝሰርሕ ዝመሳሰሉ ኮይኖም፡ ግን ብኣዝዩ ዝኸበደ ደረጃ። AI Red Teaming ኣብዚ ደው ዝብል ኣይኮነን።   ቁልፊ ንውሽጢ ዝወስዱ ነገራት፤  ● ንቕድሚት ዝስጉም ሞዴሊንግ ስግኣት (Proactive Threat Modeling)፦ ሞዴላት AI ብኸመይ ክእለዩ ከም ዝኽእሉን ንዝኾነ ከባቢ ወይ ካልእ ሞዴል AI ንምጥቃዕ ብኸመይ ክቃነዩ ከም ዝኽእሉን ብምርዳእ ክመጽእ ዝኽእል መጥቃዕቲ ምግማት።  ● ድልዱል ናይ ጸጥታ ፈተነ፡- ንተቓላዕነት ብንጥፈት ንምልላይን ንምቅላልን ናይ AI red teaming ሜላታት ምትግባር።  ● ምስ AI Developers ምትሕብባር፦ ምስ ናይ ምዕባለ ጋንታታት ብቐረባ ብምስራሕ ክልቲኡ ውሑስ AI ምዕባለን ውሑስ ናይ ኮዲንግ ኣሰራርሓን ንምርግጋጽ።   Guardrails: ምቕራጽ ውሑስ AI ባህሪ  AI ብዙሕ ሸለል ክበሃል ዘይክእል ዋጋ የቕርብ። ናይ ምፍራይ ክእለታ ነቶም ምስኡ ዝሰርሑ ሰባት የገርሞም ኣሎ። እንታይ ከም ዝፈተኻዮ ሕተቶ ኩሉ ግዜ ዘይኮነስ መብዛሕትኡ ግዜ ግን ኣዝዩ ቅኑዕ መልሲ ክመልሰካ እዩ። በዚ ምኽንያት ድማ ሓላፍነታውን ውሑስን ኣጠቓቕማ AI ዘረጋግጹ መከላኸሊታት ምምዕባል ኣዝዩ ኣገዳሲ እዩ።   እዞም መከላኸሊታት ዝተፈላለየ መልክዕ ክሕዙ ይኽእሉ፣ ንሳቶም ድማ፤    : ከም ቅልጡፍ መርፍእ ዝኣመሰሉ ተቓላዕነት ንምክልኻል ኣብ ኮድ ብሉጻት ኣሰራርሓታት ድሕነት ምትግባር። Hardened Code    : ብጥንቃቐ ናይ system prompts ምህዞ ንናይ AI ሞዴል ዓቕሚ ንምድራትን ዘይተሓሰበ ተግባራት ንምክልኻልን እዩ። System Prompt Modification    : እታዎታት ዘረጋግጹ፣ ንውጽኢት ዝፍልፍልን ዘይተፈቕደ ምእታው ዝከላኸልን ናይ ጸጥታ ኣገባባት ምውህሃድ። ሳኒታይዘርን ሓለውትን  ኣብ ምትግባር መከላኸሊታት ቁልፊ ኣብ ግምት ዝኣቱ ኣብ መንጎ ጸጥታን ተዓጻጻፍነት ኣማዕበልትን ዝግበር ምትሕውዋስ እዩ። ማእከላይ ፋየርዎል ዝመስሉ ኣገባባት ምዝርጋሕ ምቕሉል ክህቡ እንከለዉ፡ ብደቨሎፐራት ዝተሰርሑ ንኣፕሊኬሽን ዝምልከት መከላኸሊታት ዝያዳ ንእሽቶን ውጽኢታውን መከላኸሊ ክህቡ ይኽእሉ።   ኣብ ዘመነ ኤ.ኣይ.ኣይ ዝነበረ ናይ ኤፒኣይ ድሕንነት ግዴታ  ናይ AI መተግበሪታት ምስ ናይ ደገ ኣገልግሎታትን ምንጪ ዳታን ንምትእስሳር ኣብ APIs ብብዝሒ ይምርኮሱ። እዚ ምትእስሳር እዚ፡ ትካላት ብንጥፈት ክገጥምዎም ዘለዎም ክህልዉ ዝኽእሉ ናይ ጸጥታ ሓደጋታት የተኣታቱ።   ቁልፊ ስክፍታታት ምስ ኤፒኣይ ድሕንነት ኣብ ኤኣይ ኣፕሊኬሽናት፤  ዳታ ምፍሳስ ብመንገዲ ኤፒኣይ፦ ጐዳእቲ ተዋሳእቲ ንናይ ኤፒኣይ ተቓላዕነት ተጠቒሞም ብኤኣይ ሞዴላት ዝስራሕ ተሃዋሲ ዳታ ክሰርቁ ይኽእሉ።  ኣብ ዋጋ ዕዳጋ ዝኣተዉ መፍትሕታት ኤፒኣይ፦ ውሑስ ዘይኮኑ መፍትሕታት ኤፒኣይ ብዘይፍቓድ ናብ ስርዓታትን ዳታን ኤ.ኣይ.  ሓደጋታት ሳልሳይ ወገን ኤፒኣይ፦ ኣብ ሳልሳይ ወገን ኤፒኣይ ምጽጋዕ ንውድባት ኣብቶም ኣገልግሎታት ንዘሎ ተቓላዕነት ከቃልዕ ይኽእል።   ብሉጻት ልምድታት ውሕስነት ኤፒኣይ ኣብ ኤኣይ ኣፕሊኬሽናት፤  ምሉእ ኤፒኣይ ኢንቨንትሪ: ኩሎም ኣብ ኤኣይ ኣፕሊኬሽናትካ ዝጥቀሙ ኤፒኣይ ኣለሊኻ ናይ ጸጥታ ኣቃውሞኦም ገምግም።  ውሑስ ኤፒኣይ ምርግጋጽን ፍቓድን፦ ንኤፒኣይ ምብጻሕ ንምድራት ድልዱል ናይ ምርግጋጽን ፍቓድን ኣገባባት ምትግባር። ነቲ “Least Common Privilege" ዝብል ሞዴል ትትግብሮ ከምዘለኻ ኣረጋግጽ።  ስሩዕ ፈተነ ድሕነት ኤፒኣይ፡- ንናይ ኤፒኣይ ተቓላዕነት ንምልላይን ንምቅላልን ስሩዕ ናይ ድሕነት ገምጋማት ምክያድ።  መደምደምታ    ኣብዚ ጽሑፍ ዝተዘተየሉ ናይ AI ድሕነት ርድኢታት ብምግምጋም፡ ትካላት ነዚ ለውጢ ዘምጽእ ዘመን ክጓዓዛን ሓደጋታት እናነከያ ሓይሊ AI ክጥቀማሉ ይኽእላ። AI ንሓጺር እዋን ጥራይ እዩ ቀንዲ መስመር ኮይኑ ዘሎ፡ ድሕሪ ዓመት ከመይ ከም ዝመስል እሞ ሕሰብዎ። መጻኢ ናይ AI ብሩህ ስለ ዝኾነ ክትጥቀመሉ ድሉው ኩን ውሑስ ምዃኑ እውን ኣረጋግጽ። **   **ከምኡ ውን ኣብ ዙርያ AI-driven AppSec ንዘለዉ ወሳኒ ሕቶታት ዳህሲስኩም ኣብዚ ሓድሽ ዘመን ከመይ ጌርካ ኮድካ ውሑስ ከም እትገብረሉ ፍለጥ!  ሰውራ AI ናይ መጻኢ ተኽእሎ ኣይኮነን ድሮ ኣብዚ በጺሑ ኣሎ! ንዝያዳ ዝርዝር ሓበሬታ ኣብ AI & AppSec - Watch our...   ዌቢናር AI ኣብ ምምዕባል ሶፍትዌር ሰውራ ይገብር ኣሎ፡ ስትራተጂ ድሕነትካ ግን ምስኡ ይኸይድ ኣሎ ድዩ?  -ብጀፍሪ ማርቲን፡ VP ናይ ፍርያት ዕዳጋ ኣብ   ዝተጻሕፈ Mend.io

This story contains new, firsthand information uncovered by the writer.

እዚ ድምጺ ብኦርጅናል ቋንቋ ናይቲ ዛንታ ዝተሰርሐ እዩ!

ክልተ ዝኣፉ ሰይፊ ጀነሬቲቭ ኣል፤ ሓደጋታት እናቐነስካ ዓቕሚ ምኽፋት።

About Author

ርእይቶታት

ሃንግ ታግስ

እዚ ጽሑፍ ኣብ...

Related Stories

Tales of Space and Time by H. G. Wells - Table of Links

In The Fourth Year by H. G. Wells - Table of Links

Our Knowledge of the External World as a Field for Scientific Method in Philosophy - Table of Links

Meet Azamat Nurkhojayev, Android Developer

Tales of Space and Time by H. G. Wells - Table of Links

In The Fourth Year by H. G. Wells - Table of Links

Our Knowledge of the External World as a Field for Scientific Method in Philosophy - Table of Links

Meet Azamat Nurkhojayev, Android Developer

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps