OpenAI ኣብዚ ቀረባ እዋን Predicted Outputs ዝበሃል ሓያል ባህሪ ኣተኣታትዩ ኣሎ፣ እዚ ድማ ካብ ቴክኒካዊ መራኸቢ ብዙሃን ብዙሕ ኣቓልቦ ከይተዋህቦ ስቕ ኢሉ ናብቲ መድረኽ ኣትዩ-እዚ ምእራም ዝግብኦ ክትትል እዩ። እዚ ኣብ X ኣብ ዲቨሎፐር ኣካውንቶም ከም ዝጠቐሱ ኣስተብሂለ , ግን ብዙሕ ዕላዊነት ኣይረኸበን። ናይ ብሓቂ ዝሑልን ጠቓምን ባህሪ ስለ ዝኾነ ኣቓልቦ ክስሕቦ ወሲነ።
ዝተገመቱ ውጽኢታት ንሞዴል መልስታት ዝኸውን ምድንጓይ ብዓቢኡ ይንክዩ፣ ብፍላይ መብዛሕትኡ ውጽኢት ኣቐዲሙ ክፍለጥ ከሎ። እዚ ባህሪ እዚ ብፍላይ ነቶም ናይ ጽሑፍ ሰነዳት ወይ ናይ ኮድ ፋይላት ብንኣሽቱ ምምሕያሻት ምሕዳስ ዘጠቓልሉ ኣፕሊኬሽናት ጠቓሚ እዩ።
Predicted Outputs እቲ ትጽቢት ዝግበረሉ ውጽኢት ብዓቢኡ ክግመት ዝኽእል ኣብ ዝኾነሉ እዋን፡ ንደቨሎፐራት ካብ Chat Completions ዝመጽእ መልሲ ኤፒኣይ ከቀላጥፉ የኽእሎም። ኣብ ምዝዛም ቻት ዘሎ prediction
መለክዒ ተጠቒምካ ናይቲ ትጽቢት ዝግበረሉ መልሲ ትንበያ ብምቕራብ፡ እቲ ሞዴል ነቲ ዝድለ ውጽኢት ብዝበለጸ ብብቕዓት ከመንጩ ይኽእል። እዚ ተግባር ኣብዚ እዋን ምስቶም ዝሓለፉ ሞዴላት gpt-4o ን gpt-4o-mini ን ይርከብ።
መብዛሕትኡ ትሕዝቶ ድሮ ኣብ ዝፍለጠሉ መልሲ ምስ ዝህልወካ፡ ነቲ ትጽቢት ዝግበረሉ ትሕዝቶ ከም ትንቢት ነቲ ሞዴል ከተቕርቦ ትኽእል ኢኻ። ብድሕሪኡ እቲ ሞዴል ነዚ ትንቢት ተጠቒሙ ንወለዶ ናይቲ ምላሽ ንምቅልጣፍ፣ ምድንጓይ ብምንካይን ኣፈፃፅማ ብምምሕያሽን ይጥቀመሉ።
ንእሽቶ ምዕባለ ዘድልዮ ናይ JSON ውቅር ፋይል ኣለካ እሞ ሕሰብ። ኣብነት ናይ ከምዚ ዓይነት ፋይል እንሆ፤
{ "appName": "MyApp", "version": "1.0.0", "settings": { "enableFeatureX": false, "maxUsers": 100 } }
"enableFeatureX"
ናብ true
ከተመሓይሾ ትደሊ ንበል። ኣብ ክንዲ ንብምሉኡ እቲ ፋይል ካብ ባዶ ምፍራይ፡ ነቲ ኦሪጅናል ፋይል ከም ትንቢት ክትህቦን ነቲ ሞዴል ኣድላዪ ለውጢ ክገብር መምርሒ ክትህቦን ትኽእል ኢኻ።
import OpenAI from "openai"; const config = ` { "appName": "MyApp", "version": "1.0.0", "settings": { "enableFeatureX": false, "maxUsers": 100 } } `.trim(); const openai = new OpenAI(); const updatePrompt = ` Change "enableFeatureX" to true in the following JSON configuration. Respond only with the updated JSON, without any additional text. `; const completion = await openai.chat.completions.create({ model: "gpt-4o", messages: [ { role: "user", content: updatePrompt }, { role: "user", content: config } ], prediction: { type: "content", content: config } }); // Output the updated configuration console.log(completion.choices[0].message.content);
ኣብዚ ኣብነት እዚ እቲ ሞዴል ነቲ ዝተመሓየሸ ናይ ውቅር ፋይል ብቕልጡፍ የፍሪ፣ ነቲ ትንቢት ተጠቒሙ ድማ ናይ ምላሽ ግዜ የጉድል።
ንናይ ስትሪሚንግ መልሲ ዝጠልቡ ኣፕሊኬሽናት፡ ፕሪዲክትድ ኣውትፑትስ ዝያዳ ዝዓበየ ምጉዳል ላቴንሲ የቕርቡ። ስትሪሚንግ ተጠቒምካ ነቲ ዝሓለፈ ኣብነት ብኸመይ ከተተግብሮ ከም እትኽእል ኣብዚ ኣሎ፤
import OpenAI from "openai"; const config = `...`; // Original JSON configuration const openai = new OpenAI(); const updatePrompt = `...`; // Prompt as before const completion = await openai.chat.completions.create({ model: "gpt-4o", messages: [ /* ... */ ], prediction: { type: "content", content: config }, stream: true }); for await (const chunk of completion) { process.stdout.write(chunk.choices[0]?.delta?.content || ""); }
እዚ ጽሑፍ ኣብ ዝጸሓፈሉ እዋን፡ ካብ ተወዳደርቲ ዝመጽእ ኣማራጺታት ናይዚ ፍታሕ የለን። OpenAI's Predicted Outputs ዝበሃል ባህሪ፡ ንዝፍለጥ ትሕዝቶ ብንኣሽቱ ምምሕያሻት ኣብ ዝሕደሰሉ እዋን፡ ንፍሉይ ኣድላይነት ምጉዳል ላቴንሲ ዝምልከት ፍሉይ ምቕራብ ይመስል።
እቲ ዝሑል ነገር ክትጥቀመሉ ክትጅምር ዳርጋ ዋላ ሓንቲ ኣየድልየካን እዩ። በቃ ውሰዶ እሞ ኣብቲ ናይ ኤፒኣይ ሕቶ ሓደ ሓድሽ መለክዒ ጥራይ ብምውሳኽ ተጠቐመሉ። እዚ ድማ ንደቨሎፐራት ነዚ ባህሪ ኣብቶም ዘለዉ ኣፕሊኬሽናቶም ንምትግባር ኣዝዩ ቀሊል ይገብሮም።
ዝተገመቱ ውጽኢታት ርኡይ ብልጫታት እኳ እንተሃቡ፡ ኣገደስቲ ኣብ ግምት ዝኣትዉ ነገራት ኣለዉ፤
rejected_prediction_tokens
ምክትታል።n
(ካብ 1 ዝለዓለ ክብርታት)logprobs
presence_penalty
(ካብ 0 ዝዓቢ ክብርታት)frequency_penalty
(ካብ 0 ዝዓቢ ክብርታት)max_completion_tokens
tools
(ናይ ተግባር ምጽዋዕ ኣይድገፍን እዩ)
OpenAI's Predicted Outputs ኣብ AI ኣፕሊኬሽናት ንዝፍጠር ልሙድ ብድሆ ዝምልስ መሰረት ዝሰበረ ባህሪ እዩ: እቲ መልሲ ብዓቢኡ ክትግምቶ ኣብ እትኽእለሉ እዋን ምድንጓይ ምንካይ። ዲቨሎፐራት ትጽቢት ዝግበረሎም ውጽኢት ንኸቕርቡ ብምፍቃድ፡ ናይ ምላሽ ግዜ የቀላጥፍን ተመኩሮ ተጠቃሚ የዕብዮን።
ብውልቃዊ ርእይቶይ፡ ሞዴላት OpenAI ከም ናይ ኣንትሮፒክ ሞዴላት ሓያላት ኣይኮኑን። ይኹን እምበር OpenAI ኣብ ካልእ መዳያት ብዙሓት ዝሑላትን ናይ ብሓቂ ኣድለይትን መፍትሒታት የፍሪ። ከም Predicted Outputs ዝኣመሰሉ ባህርያት OpenAI ካብ ካልኦት AI ኣቕረብቲ ፍሉይ ይገብሩ፣ ኣብ ማሕበረሰብ ዲቨሎፐር ፍሉይ ድሌታት ዘማልኡ ፍሉያት መፍትሒታት የቕርቡ።