Апориа хиймэл оюун ухааны аюулгүй байдлын сорилтуудыг "Хиймэл оюун ухааныг хамгаалах нь муу" кампанит ажлын хүрээнд шийдэв.

Хиймэл оюун ухаан (AI) нь салбаруудыг хурдан өөрчилж байна. Үүнтэй уялдуулан AI-ийн хүчирхэг аюулгүй байдлын хэрэгцээ урьд өмнөхөөсөө илүү чухал болсон. AI хамгаалалтын хашлага, ажиглалтын шийдлүүдийг нийлүүлэгч Aporia компани " Хиймэл оюун ухааныг хамгаалах нь үнэхээр хэцүү ” энэ тулгамдсан асуудлыг шийдвэрлэх кампанит ажил өрнүүлнэ.

Aporia гэж юу вэ?

2019 онд байгуулагдсан Aporia нь богино хугацаанд Fortune 500-д багтсан компаниуд болон дэлхийн хэмжээнд хиймэл оюун ухааныг тэргүүлэгч багуудын найдвартай түнш болсон. Тус компани нь AI загварын аюулгүй байдал, хяналтыг шинэчлэн сайжруулж, хиймэл оюун ухааны бүхий л ачаалалд зориулсан дэвшилтэт AI хамгаалалтын хашлага, ажиглалтын шийдлээр мэргэшсэн.

Байгууллагууд Aporia-ийн орчин үеийн хамгаалалтын хашлагуудыг хэдхэн минутын дотор хялбархан нэмж, хиймэл оюун ухааны янз бүрийн програмуудыг хий үзэгдэл, цаг алдалгүй тарилгын халдлага, хордлого, сэдвээс гадуурх хариу үйлдэл зэрэг нийтлэг асуудлаас хамгаалахын тулд бүрэн тохируулах боломжтой.

Аяны тойм

Апориагийн "Хиймэл оюун ухааныг хамгаалах нь" кампанит ажил нь хиймэл оюун ухааны салбарын нэн чухал асуудал болох хиймэл оюун ухааны системийг хамгаалахтай холбоотой хүндрэл, эрсдэлийг авч үздэг. Мэдээллийн аюулгүй байдлын ахлах ажилтнууд (CISO) болон аюулгүй байдлын мэргэжилтнүүдийн дунд хийсэн 1500 гаруй хэлэлцүүлгийг хамарсан өргөн хүрээтэй судалгааны үр дүнд Aporia нийтлэг сэдвийг тодорхойлсон: AI системийг хамгаалах нь төвөгтэй бөгөөд эрсдэлтэй байдаг.

Энэхүү кампанит ажил нь хиймэл оюун ухааны аюулгүй байдлыг үл тоомсорлох нь ямар аюултайг харуулж байна. AI системүүд улам бүр түгээмэл болж, эмзэг мэдээлэлтэй харьцдаг тул тэдгээр нь өгөгдөл зөрчих, дайсагнасан халдлага, зөвшөөрөлгүй хандалтын гол бай болдог. Аюулгүй байдлын муу үр дагавар нь хэрэглэгчийн итгэлийг алдах, хууль ёсны шийтгэлээс эхлээд хэрэглэгчдэд учирч болзошгүй хохирол зэрэг ноцтой байж болно.

Аяны гол онцлогууд

Aporia-ийн кампанит ажил нь хиймэл оюун ухааны аюулгүй байдлын хэд хэдэн чухал асуудалд анхаарлаа хандуулдаг: CISO-ийн 88% нь хиймэл оюун ухааны системийн урьдчилан таамаглах боломжгүй байдлын талаар санаа зовж байгаа нь аюулгүй байдлын сайн арга хэмжээг хэрэгжүүлэхэд хэцүү болгодог.

Аюулгүй байдлын мэргэжилтнүүдийн 78 орчим хувь нь хиймэл оюун ухаанд хамаарах эмзэг байдлыг арилгахад аюулгүй байдлын уламжлалт хэрэгслүүд хангалттай гэдэгтэй санал нийлэхгүй эсвэл эрс эсэргүүцдэг. Үүний зэрэгцээ, CISO-ийн 85% нь одоо байгаа хиймэл оюун ухааны системдээ аюулгүй байдлын арга хэмжээг нэмэхэд томоохон сорилтуудтай тулгардаг бөгөөд аюулгүй байдлын мэргэжилтнүүдийн 80% нь хиймэл оюун ухааны программуудыг тодорхойлох, хянах нь хэцүү эсвэл маш хэцүү гэж үздэг.

Энэхүү кампанит ажил нь мөн эдгээр сорилтыг шийдвэрлэх шийдэл болох AI Guardrails хэмээх ойлголтыг танилцуулж байна. Гэрийн хиймэл оюун ухааны агентууд, хэрэглэгчид болон гуравдагч этгээдийн хиймэл оюун ухааны хэрэгслүүдийн хооронд байрладаг эдгээр хамгаалалтын хашлага нь нэн шаардлагатай хамгаалалтын давхарга болж, тогтоосон дүрэмд нийцүүлэхийн тулд мессеж, харилцан үйлчлэл бүрийг нэн даруй хянаж байдаг.

AI аюулгүй байдлын алдааны бодит жишээнүүд

Энэхүү кампанит ажил нь хиймэл оюун ухааны аюулгүй байдлын ач холбогдлыг харуулах хэд хэдэн бодит хувилбаруудыг танилцуулж байна. Жишээлбэл, компанийн хиймэл оюун ухааны туслах нь санхүүгийн нууцыг санамсаргүйгээр хуваалцсан нь ихээхэн хэмжээний алдагдал, нэр хүндэд хохирол учруулсан.

Үүнийг шийдэхийн тулд шийдэл нь нууц мэдээлэлд нэвтрэх хяналтыг агуулдаг. Төлөвлөсөн орлого, ашгийн талаар хариулахын оронд хиймэл оюун ухааны хариултыг хааж, "Уучлаарай, гэхдээ би энэ мэдээллийг өгөх боломжгүй" гэж хариулах болно. Энэ системээ хариуцлагатай ашиглаарай” гэсэн юм.

Өөр нэг жишээ болох SecureCorp нь үйлчлүүлэгчийн нарийн төвөгтэй саналыг бичих явцад бэрхшээлтэй тулгарсан ажилтныг харуулсан. Тухайн хүн цаг хэмнэхийн тулд гадны хиймэл хиймэл оюун ухааны үйлчилгээг ашиглаж, контент үүсгэхийн тулд үйлчлүүлэгчийн эмзэг мэдээллийг оруулсан. Гадны AI үйлчилгээ нь өгөгдлийг хадгалсан бөгөөд дараа нь олон нийтэд нээлттэй гаралтууд дээр гарч, үйлчлүүлэгчийн нууц мэдээллийг ил болгосон.

Энэхүү шийдэл нь ажилтан гадны хиймэл оюун ухааны үйлчилгээнд нууц мэдээллийг оруулахыг оролдох үед илрүүлдэг хиймэл оюун ухааны хамгаалалтын хашлагуудыг хэрэгжүүлэх явдал юм. Системийн хариуг Guardrails өөрчилнө: "Анхааруулга: Гадны үйлчилгээнд нууц мэдээлэл оруулахыг хориглоно. Нууц мэдээлэлтэй ажиллахдаа зөвшөөрөгдсөн дотоод хэрэгслийг ашиглана уу."

Нөлөөлөл ба үр дүн

Апориагийн аюулгүй байдлын тулгамдсан асуудлыг шийдвэрлэх нарийн стратеги нь эдгээр асуудалтай тэмцэж буй байгууллагуудад нөлөөлнө. AI Guardrails-ийг шийдэл болгон санал болгож, Aporia нь хиймэл оюун ухааны аюулгүй байдлын салбарт өөрийгөө бодлын удирдагч гэж үздэг.

Апориагийн "Хиймэл оюун ухааныг хамгаалах нь" кампанит ажил нь хиймэл оюун ухааны аюулгүй байдлын сорилтуудыг тодруулж, шинэ шийдлүүдийг санал болгодог нь маргаангүй. Хиймэл оюун ухаан үргэлжлэн өөрчлөгдөж, бизнес, нийгмийн янз бүрийн талбарт нэгтгэгдэж байгаа тул аюулгүй байдлын хүчтэй арга хэмжээний ач холбогдлыг үнэлж баршгүй. Апориагийн кампанит ажил нь эдгээр асуудлын талаарх мэдлэгийг нэмэгдүүлж, AI системийг сайн хамгаалахыг эрэлхийлж буй байгууллагуудад урагшлах арга замыг санал болгодог.