አግኙን አግኙን አግኙን አግኙን አግኙን አግኙን አግኙን የቅጂ መብት: (1) Aman Madaan, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (amadaan@cs.cmu.edu) (2) Shuyan Zhou, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (shuyanzh@cs.cmu.edu); (3) Uri Alon, Language Technologies Institute, Carnegie Mellon ዩኒቨርሲቲ, የአሜሪካ (ualong@cs.cmu.edu) (4) Yiming Yang, Language Technologies Institute, Carnegie Mellon ዩኒቨርሲቲ, የአሜሪካ (yiming@cs.cmu.edu) (5) Graham Neubig, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (gneubig@cs.cmu.edu). Authors: (1) Aman Madaan, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (amadaan@cs.cmu.edu) (2) Shuyan Zhou, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (shuyanzh@cs.cmu.edu); (3) Uri Alon, Language Technologies Institute, Carnegie Mellon ዩኒቨርሲቲ, የአሜሪካ (ualong@cs.cmu.edu) (4) Yiming Yang, Language Technologies Institute, Carnegie Mellon ዩኒቨርሲቲ, የአሜሪካ (yiming@cs.cmu.edu) (5) Graham Neubig, Language Technologies Institute, Carnegie Mellon University, ዩናይትድ ስቴትስ (gneubig@cs.cmu.edu). የመስመር ላይ ገጾች Abstract እና 1 መተግበሪያ 2 COCOGEN: ኮድ ጋር Commonsense መዋቅርዎችን ያተኮሩ እና 2.1 Python ኮድ ወደ (T,G) ያተኮሩ 2.2 G ለመፍጠር የሚፈልጉትን ጥቂት ፎቶዎች 3 ግምገማዎች እና 3.1 ሙከራ መፍጠር 4.2 ስክሪት አጠቃቀም: Proscript 3.3 የኦሪጂናል ስቴትስ ትኩረት: PROPARA 3.4 አግኝቷል Graph Generation: EXPLAGRAPHS 4 ልማት 5 የተያዙ ሥራዎች 6 መውሰድ, የምስክር ወረቀት, መስፈርቶች እና መለያዎች አንድ Few-Shot ሞዴሎች መጠን ጥምረት B Dynamic ፍጥነት ለመፍጠር C የአካባቢ ጥራት የ D Dataset ስቴትስቲክስ የምስክር ወረቀት F ፈጣን G የ Python ክፍል ለመሠረተ ተግባር ንድፍ H ሞዴል መጠን ውጤት በከፍተኛ ደረጃ ላይ የተለያዩ አጠቃቀም የ LMs (Language Models) ይህ ተግባር ለማግኘት, የ LMs (Language Models) በመተግበሪያውን ኮድ መተግበሪያዎች እንደ የኮድ መተግበሪያዎች እንደ የኮድ መተግበሪያዎች እንደ የኮድ መተግበሪያዎች እንደ የኮድ መተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተግበሪያዎች በመተ ያግኙ https://github.com/madaan/ኮኮን 1 መውሰድ ግምገማዎችን ለመፍጠር የላቀ የተመሠረተ ቋንቋ ሞዴሎች (LLMs) ልማት ችሎታዎች በይነመረብ, ግምገማዎች እና ጥያቄዎች መልስ (Wang et al., 2019; Raffel et al., 2019; Brown et al., 2020; Chowdhery et al., 2022) ጨምሮ የተለያዩ ሥራዎች ላይ ተስማሚ መተግበሪያዎችን ያደርጋል. በተጨማሪም የ LLMs ለወደፊቱ ቋንቋዎች (NL) ሥራዎች መተግበሪያዎች ቀላል ነው, የ LLMs ለወደፊቱ ግምገማዎች (Tandon et al., 2019), ለወደፊቱ ግምገማዎች (Madaan et al., 2021a), ለወደፊቱ ግምገማዎች (Sakaguchi et al., 2021) እና ለወደፊቱ ግምገማዎች (Saha et al., 2021) እንደ ተሳታፊዎች (Tandon et al., 2019), ለወደፊቱ ግምገማዎች (Madaan et al., 2021a), ለወደፊቱ ግምገማዎች (Sakaguchi et al., 2021), እና ለወደፊቱ ግምገማዎች (Saha et al., 2021) መተግበሪያዎች እንዴት ይጠቀማል. የወደፊቱ ግ ለ LLMs ለማሳየት, የአሁኑ የተመሠረተ ቅርጸት አጠቃቀም ሞዴሎች አንድ ችግር ውፅዓት ቅርጸት ለማሻሻል. ልዩነት, ለመፍጠር የሚሆን መዋቅር (እን.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ.ኤ. በ 2021; Madaan እና Yang, 2021), የ LLMs እነዚህን "የተፈጠራ" ውፅዓት ለመፍጠር ይሞክሩ: LMs በዋናነት ነፃ ቅርጽ ጽሑፍ ላይ የተመሠረተ ናቸው, እና እነዚህ serialized የተመሠረተ ውፅዓት በከፍተኛ ደረጃ ከባድ-ተፈጠራ ውሂብ መካከል አብዛኞቹ ከረጅም ጊዜ ይወዳሉ. በተጨማሪም, ለወደፊቱ ቋንቋ, የሴሜኒካዊ ተስማሚ ጥያቄዎች አብዛኛውን ጊዜ አንድ አነስተኛ ስፋት ውስጥ ይገኛሉ, እና አንድ ካርታ ውስጥ ተስማሚ ቅርጸቶች አንድ ካርታ እንደ ተስማሚ ቅርጸት ለመምረጥ ጊዜ ይበልጥ ይሸፍናል. እንደዚህ, አንድ ቋንቋ ሞዴል, ይህም በተፈጥሮ ቋንቋ ጽሑፍ ላይ የተመሠረተ ነበር, የኮምፒዩተር የኮምፒዩተር የኮምፒዩተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒውተር የኮምፒው የኮድ-LLMs (Code-LLMs; Chen et al., 2021b; Xu et al., 2022) የኮድ ማምረት (Austin et al., 2021; Nijkamp et al., 2022), የኮድ ማጠናቀቅ (Fried et al., 2022) እና የኮድ መተግበሪያ (Wang et al., 2021) እንደ የኮድ-LLMs (Code-LLMs, 2021b; Xu et al., 2022) የኮድ ማምረት (Austin et al., 2021; Nijkamp et al., 2022), የኮድ ማጠናቀቅ (Fried et al., 2022), እና የኮድ መተግበሪያ (Wang et al., 2021), በኮድ-LLMs (Code-LLMs) እንደ ፕሮግራሞች እንደ የተመሠረተ ውሂብ ላይ ተስማሚ ግምገማ በተጨማሪም, Code-LLMs ከ NL-LLMs በላይ ይበልጥ ይበልጥ ይበልጥ ይበልጥ የተመሠረተ ይበልጥ ሊሆን ይችላል, በእርስዎ የሚፈልጉ ውፅዓት ካርታን በኮድ pre-training ውሂብ ውስጥ ተመሳሳይ ቅርጸት ወደ ተመሳሳይ ቅርጸት ለማስተዋወቅ ጊዜ. ለ አግኙን የኦሪጂናል አጠቃቀም, እና በ Figure 1 ውስጥ ያነሰ ነው. Co Co Gen የእኛ ክፍሎች የሚከተሉት ናቸው: አግኙን አግኙን አግኙን አግኙን አግኙን እኛ Code-LLMs ከ NL-LLMs በላይ የተመሠረተ ቅርጸቶች ናቸው, በኮድ እንደ የሚፈልጉ የ Graph prediction ያደርጋል ጊዜ. እኛ COCOGEN ይሰጣሉ: የኮድ የ LLMs ለመሠረተ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ለማግኘት. የ COCOGEN የ NL-LLMs በ 3 የተመሠረተ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ ጥንካሬ የእኛን ግምገማዎች በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ እና በይነገጽ ነው.We perform a thorough ablation study, which shows the role of data format, model size, and the number of few-shot examples. አግኙን አግኙን ይህ ጽሑፍ በ CC BY 4.0 DEED License ላይ archiv ላይ ይገኛል. ይህ ጽሑፍ በ CC BY 4.0 DEED License ላይ archiv ላይ ይገኛል.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

FEW SHOT .tech

ይህ ኦዲዮ የተዘጋጀው በታሪኩ የመጀመሪያ ቋንቋ ነው!

በጣም ረጅም፤ ማንበብ

Make resilience your competitive advantage

የኦሪጂናል ኮምፒዩተር ማተሚያ ተመሳሳይ ነገር ይበልጥ ያውቃል

About Author

አስተያየቶች

ተንጠልጣይ መለያዎች

ይህ ጽሑፍ ቀርቧል

Related Stories

AMA with Rana Gujral, CEO of Behavioral Signals and Noonies Nominee, on September 30th, 9 am PST

AMA with Lina Survila, Women in Tech awards nominee

THE HARMAS

This Side of Paradise: Book I, Chapter I - Amory, Son of Beatrice

AMA with Rana Gujral, CEO of Behavioral Signals and Noonies Nominee, on September 30th, 9 am PST

AMA with Lina Survila, Women in Tech awards nominee

THE HARMAS

This Side of Paradise: Book I, Chapter I - Amory, Son of Beatrice

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps