ምፍታሕ ጸገም AI Hallucination ብባዕሉ ምርግጋጽ ተፈጥሮኣዊ መደባት

ሰሌዳ መላግቦታት

ኣብስትራክትን መእተውን

ተዛማዲ ስራሕ

ድርኺትን ምሕንጻጽ ጸገምን

ብዲዱክቲቭ ክረጋገጽ ዝኽእል ሰንሰለታዊ ኣተሓሳስባ ምኽንያት

ፈተነታት

ድሩትነት

መደምደምታ፡ ምስጋናን መወከሲታትን

ብቪኩና ሞዴላት ዝግበር ምጉዳል ምርግጋጽ

B ዝያዳ ዘተ ኣብ ምምሕያሻት ትኽክለኛነት ምርግጋጽ ምጉዳል ኣንጻር ምምሕያሽ ትኽክለኛነት ናይ መወዳእታ መልሲ

C ተወሳኺ ዝርዝር ኣብ ምውጻእ መልሲ

መ ዝሕብር

E ተወሳኺ ምጉዳል ምርግጋጽ ኣብነታት

2 ተዛማዲ ስራሕ

ብዓበይቲ ሞዴላት ቋንቋ ምምዝዛን። ኣብ ቀረባ እዋን ዝተገበሩ ዓበይቲ ሞዴላት ቋንቋ (LLMs) [3, 8, 57, 47, 38, 18, 9, 37] ዝተሓላለኹ ናይ ምምዝዛን ዕማማት ኣብ ምፍታሕ ንምእማኑ ዘጸግም ክእለት ኣርእዮም እዮም። LLMs ብቐጥታ ከም ውጽኢት ናይ መወዳእታ መልስታት ከመንጩ ኣብ ክንዲ ዝገድፍ፡ ቅድሚ ሕጂ ዝተገብረ ስራሕ ከም ዘመልክቶ፡ ብግቡእ ምልዕዓል ኣቢልካ ደረጃ ብደረጃ ምኽንያታዊ ምኽንያታዊ ምትብባዕ፡ ከም ሰንሰለታዊ ኣተሓሳስባ (CoT) ምልዕዓል [50]ን ካልኦት ብዙሓት [21, 59, 58, 44, 48, 60, 25, 54]፣ LLMs ኣብ ዝተፈላለዩ ናይ ምኽንያታዊ ዕማማት ብዝበለፀ ዝሓሸ ኣፈፃፅማ የርእዩ። ደረጃ ብደረጃ መስርሕ ምኽንያት ዝያዳ ንምምሕያሽ፡ ገለ ናይ ቀረባ እዋን መጽናዕትታት፡ ከም ፕሮግራም ተርጐምቲ [39, 5, 27] ዝኣመሰሉ ናይ ደገ መፍትሒታት ምጥቃም፡ ናይ ደገ ምኽንያት ሞዱላት ምምልማልን ምጽዋዕን [11]፡ ወይ ድማ ምጉዳል ስጉምትታት ንምፍጣር ግሉጽ ምድላይ ምፍጻም መርሚሮም እዮም። [2, 46] ዝብል ጽሑፍ ኣሎ። ጎኒ ጎኒ እዞም ስራሓት ኣብ ግዳማዊ ሞዱላትን ኣልጎሪዝምን ኣይንምርኮስን ኢና፣ ብቐጥታ ድማ ነቲ ኣብ ውሽጢ ዓውዲ ዘሎ ናይ LLMs ናይ ምምሃር ዓቕሚ ተጠቒምና ዝያዳ ልክዕን ጽኑዕን ምጉዳል ምኽንያታት ንፈጥር።

ዓበይቲ ሞዴላት ቋንቋ ከም መረጋገጺ። ሞዴል ወለዶታት ንምግምጋም ሞዴላት ቋንቋ ምጥቃም ካብ ነዊሕ እዋን ዝጸንሐ ሓሳብ እዩ ነይሩ [22, 36, 40, 4]። LLMs ኣብ ዝተፈላለዩ ዕማማት ዝድነቕ ዓቕሚ ስለዘርእዩ፡ LLMs ከም መሳርሒታት ገምጋምን ምርግጋጽን ምጥቃም ባህርያዊ ሓሳብ ይኸውን። ንኣብነት [10, 11, 33] ፍታሕን መንጎኛ ስጉምትታትን ንምርግጋጽ LLMs ፋይነንዩን ይገብሩ። ምስ RLHF [32, 31, 48] ዝተሰለፉ LLMs እውን ዝተፈላለዩ ሞዴል ወለዶታት ንምንፅፃር ተዋፊሮም እዮም። ብተወሳኺ ኣብ ቀረባ እዋን ዝተሰርሑ ከም [43, 52, 28, 6] ዝኣመሰሉ ስራሕቲ LLMs ባዕሎም ከረጋግጹ፣ ባዕሎም ክጽረጉን ባዕሎም ክእረሙን ዘኽእሎም ዲዛይናት ፕሮምፕት ይጥቀሙ። ይኹን እምበር እዞም ስራሓት ኣብ ነፍሲ ወከፍ ስጉምቲ ምኽንያታዊ መስርሓት ጽንዓትን ተኣማንነትን ናይቶም ዲዱክቲቭ ሪዞኒንግ መስርሓት ዘተኮሩ ኣይኮኑን። ኣብዚ ስራሕ እዚ፡ LLMs ንነፍሲ ወከፍ መንጎኛ ስጉምቲ ናይ ሓደ መስርሕ ምጉዳል ምኽንያት ባዕሎም ከረጋግጹ ዘኽእሎም፡ ብተፈጥሮኣዊ ቋንቋ ዝተመርኮሰ ዲዱክቲቭ ሪዞኒንግ ፎርማት ንሓስብ፡ በዚ ድማ ንጽንዓትን ምትእምማንን ምኽንያታዊ ምኽንያት የመሓይሽ።

ብተወሳኺ፡ ገለ ናይ ቀረባ እዋን ስራሓት [12, 53, 15, 34] ኣብ መስርሕ ምኽንያት ንውልቃዊ ስጉምትታት ንምርግጋጽ ዝሕግዙ ሜላታት ክሕብሩ እንከለዉ፡ ኣቀራርባና ግን ካብዞም ስራሓት ብዞም ዝስዕቡ ኣረኣእያታት ይፍለ ፡ (1) ኣቀራርባና ኣብ ውሽጢ ዓውደ-ጽሑፍ ትምህርቲ ተጠቒሙ ንኽዕወት ይጥቀመሉ ምኽንያታዊ ምርግጋጽ፣ ብዘይ ኣድላይነት ናይ ቋንቋ ሞዴል ፋይንቱኒንግ። (2) ኣብ ተፈጥሮኣዊ ፕሮግራም ዝተመርኮሰ ናይ LLM ምርግጋጽ ኣገባብና ንዘይሕጋዊ ናይ ምኽንያት ስጉምትታት የለልይ ጥራይ ዘይኮነስ፡ ስለምንታይ ዘይቅኑዓት ምዃኖም ግሉጽ መግለጺታት እውን ይህብ፣ እዚ ድማ ነቲ ዝሳተፍ ፍሉይ ናይ ምኽንያት ጌጋታት ብዝርዝር ይገልጽ። (3) ኣብ ተፈጥሮኣዊ ፕሮግራም ዝተመርኮሰ ናይ ምምዝዛንን ምርግጋጽን ኣገባብና ምስ ኣብ ዓውደ-ጽሑፍ ዝርከቡ ኣብስትራክት ምኽንያታዊ ዕማማት ዝሰማማዕ ኮይኑ፡ ስጉምትታት ምኽንያት መርትዖ ዝመስል ናይ ምትእትታው መሓውራት ዘይብሎም እዩ። ንኣብነት ኣቀራርባና ምስቲ ናይ መወዳእታ ፊደላት ዕማም ዝሰማማዕ ኮይኑ፡ LLM ንናይ መወዳእታ ፊደላት ናይ ኩሎም ቃላት ብተኸታታሊ ከም ናይ መወዳእታ መልሲ ከውጽእ መምርሒ ይወሃቦ። (4) ኣገባብ ተፈጥሮኣዊ መደብና ኣብ ቀጽሪ ብግልጺ ዘይተዘርዘረ ናይ ልቦና ፍልጠት ምጥቃም የፍቅድ። ንኣብነት ነዚ ጸገም እዚ ንርአ፦ “ማሪን ኣብ መዓልቲ 4 ኣፕል ትበልዕ። ኣብ ወርሒ ሕዳር ክንደይ ኣፕል ይበልዕ?” ዋላ እኳ “ሕዳር 30 መዓልታት ኣለዋ” ኣብቲ ቀጽሪ ብግልጺ እንተዘይተዘርዘረ፡ ተፈጥሮኣዊ ፕሮግራም ከምዚ ዓይነት ሓባራዊ ፍልጠት ኣብ ውሽጢ ሓደ ናይ ምኽንያታዊ ስጉምቲ ምጥቃም ይፈቅድ። ኣብ ውሽጢ ዓውደ-ጽሑፍ ዘሎ መስርሕ ምርግጋጽና እውን ነዞም ስዉር ቅድመ-ኩነት ናይ ምሕላው ዓቕሚ ኣለዎ (ንኣብነት፡ LLM ኣብ ሓደ ናይ ምኽንያታዊ ስጉምቲ “ሕዳር 29 መዓልታት ኣለዎ” ዝብል ውጽኢት እንተድኣ ኣውጺኡ፡ ከም ዘይሕጋዊ ምልክት ክግበረሉ እዩ)።