paint-brush
Tokony ho mendrika ny fiarovana amin'ny teny maimaim-poana ve ny Output Machine?ny@pawarashishanil
203 HENOINA

Tokony ho mendrika ny fiarovana amin'ny teny maimaim-poana ve ny Output Machine?

ny Ashish Pawar6m2024/11/28
Read on Terminal Reader

Lava loatra; Mamaky

Satria ny rafitra AI miteraka toa ny GPT-4 dia mamokatra votoaty mihasarotra hatrany, dia mipoitra ny fanontaniana sarotra: tokony ho mendrika ho “kabary” ve ny vokatra azony amin'ny fiarovana ny fahalalaham-pitenenana? Na dia tsy manana finiavana, originality ary tompon'andraikitra aza ny AI — singa manan-danja amin'ny fitenin'olombelona — dia mety hisy fiantraikany, mampiady hevitra ary manimba mihitsy aza ny vokatra azony. Izany dia miteraka fanamby manan-danja ara-dalàna sy etika: Iza no tompon'ny na tompon'andraikitra amin'ireo vokatra ireo - ny mpamorona, ny mpampiasa, sa tsy misy olona? Tokony hifehy azy ireo toy ny fitaovana ve ny governemanta, sa mendrika ny fiarovana mitovy amin'ny fanehoan'olombelona? Ity lahatsoratra ity dia mikaroka ny mekanika amin'ny atiny vokarin'ny AI, mandinika ny loza eran'izao tontolo izao toy ny kabarim-pankahalana sy ny vaovao diso, ary manolotra rafitra vaovao hanasokajiana ny vokatra AI ho "kabary simulated". Ny lahateny simulated dia manaiky ny fahaizan'ny AI maka tahaka ny fitenin'ny olombelona sady miaiky ny tsy fisian'ny safidiny na ny fikasany, mamela antsika hifehy ny votoaty vokarin'ny milina nefa tsy manitsakitsaka ny zon'olombelona amin'ny fahalalahana miteny Amin'ny farany, manasongadina fisaratsarahana ny adihevitra: zon'olombelona ny fahalalahana miteny. miitatra amin'ny milina famokarana ve izany, sa mila asiana tsipika vaovao?
featured image - Tokony ho mendrika ny fiarovana amin'ny teny maimaim-poana ve ny Output Machine?
Ashish Pawar HackerNoon profile picture
0-item

Mamakivaky ny fahana X ianao, ary mahita manifesto ara-politika misy fomba fihantsiana momba ny politikan'ny toetrandro. Mieritreritra tsara izy io, mazoto, ary manangona retweet an'arivony. Taty aoriana, fantatrao fa tsy mpanao politika na olombelona mihitsy no nanoratra azy io. Fa kosa, dia novolavolain'ny maodely AI mahery vaika — maodely amin'ny fiteny voaofana hanambatra teny mifototra amin'ny lamina hitany manerana ny faritra midadasika amin'ny Internet. Manova ny fahatsapanao momba ilay manifesto ve izany? Tokony ho izany ve? Ary izao no vaha-olana: mitovy amin'ny hoe olona nanoratra azy io “kabary” io?


Ny tsipika misy eo amin'ny fanehoana entin'olombelona sy ny votoaty vokarin'ny milina dia mihasarotra sy sarotra fantarina. Ny maodely AI Generative toa an'i OpenAI's GPT-4 na Google's Gemini dia tsy mandrora teny fanalahidy na valiny tsotra fotsiny — mamorona fitantarana manontolo, tohan-kevitra famolavolana, ary indraindray mandrehitra resabe. Afaka manoratra tononkalo izy ireo, mamolavola fanangonan-tsonia, na mamorona votoaty mahasosotra mihitsy aza. Ary izany dia miteraka fanontaniana mahaliana — ary somary tsy mahazo aina —: tena “kabary” tokoa ve ny vokatra azony? Raha izany no izy, moa ve io lahateny io dia manana fiarovana ara-dalàna mitovy amin'izay ataontsika amin'ny fanehoan'olombelona? Sa tokony ho tafiditra ao amin'ny sokajy misy azy manokana ve ny votoaty vokarin'ny AI, miaraka amin'ny fitsipika samihafa?


Andeha hojerentsika izany, tsy avy amin'ny fomba fijery "mpamorona votoaty" fotsiny, fa tena milentika ao anatin'ny zava-misy ara-teknika misavoritaka, ny fiantraikany ara-dalàna ary ny fisalasalana filozofika. Satria, raha ny marina, tsy dia tsotra araka ny eritreretinao.

AI tsy miresaka fa manao kajy

Voalohany, andeha ahemotra ny ridao ary hojerentsika izay tena zava-mitranga rehefa mamorona “kabary” ny AI. Amin'ny fotony, ny maodely AI miteraka toa ny GPT-4 dia tsy misintona fehezanteny avy amin'ny rivotra manify na mamoaka hevitra tany am-boalohany. Fa kosa, miasa amin'ny probabilité statistika izy io—ilay matematika sarotra amin'ny fiteny.


Toy izao ny fomba fiasa: Ny maodely AI dia voaofana amin'ny angon-drakitra midadasika izay ahitana boky, bilaogy, lahatsoratra amin'ny haino aman-jery sosialy, ary amin'ny ankapobeny ny zavatra hafa hita ao amin'ny Internet. Mandritra ny fiofanana dia mamakafaka ireo lahatsoratra ireo izy ireo mba hahatakarana ny fifandraisan'ny teny. Ny teny dia tsy voatahiry ao amin'ny ordinatera mitovy amin'ny teny; izy ireo dia navadika ho antsoina hoe famantarana , izay toy ny vato fanorenana kely. Ny andian-teny toy ny “The quick brown fox” dia mety hozaraina ho famantarana tsirairay toy ny `[The]`, `[quick]`, `[brown]`, `[fox]`. Ny AI avy eo dia mianatra izay famantarana mety hanaraka ny hafa. Aorian'ny lanonana ampy dia afaka maminavina ny famantarana manaraka amin'ny filaharana.


Eritrereto kely izany: tsy mieritreritra izay tiany holazaina ny AI; kajy ny mety ho matematika amin'ny teny manaraka. Ohatra, raha manosika azy amin'ny "The quick brown fox jumps", dia mety haminavina ny modely fa "tapitra" ny famantarana lojika manaraka. Tsy famoronana na fikasana izany—fa matematika fotsiny.


Saingy izao no kicker: rehefa ampifandraisinao amin'ny rojo vy ireo faminaniana ireo amin'ny alàlan'ny mari-pamantarana an'arivony tapitrisa (lanja lehibe sy saro-pady izay mitarika ny fomba fiasan'ny modely), dia mahazo zavatra tena miavaka ianao. Atsipazo ny teknika toy ny rafitry ny transformer sy ny mekanika saina mandroso, ary tampoka dia mijery lahatsoratra iray manontolo momba ny fiovan'ny toetr'andro ianao na tononkalo tanteraka momba ny fahaverezana sy ny fanantenana. Mahatalanjona ny maha olombelona ireo vokatra ireo. Kabary ve anefa izy ireo?

Ny lavaka bitro filozofika: Inona no atao hoe "kabary", na izany aza?

Ny kabary, toy ny foto-kevitra, dia mitondra lanja be. Tsy hoe milaza zavatra fotsiny—fa manana zavatra holazaina . Ny kabary dia mandray ny fikasana, ny fahafahana misafidy ary ny fandraisana andraikitra. Rehefa manoratra ity bilaogy ity aho dia maneho ny hevitro, na manaiky izany ianao na tsia. Raha diso fahalalana na manafintohina aho dia tompon'andraikitra amin'ny vokatry ny teniko. Miraikitra amin'ity lahatsoratra ity ny anarako. Izaho no mpandinika, ary izao no fomba fiteniko.


Saingy tsy manana eritreritra ny generative AI. Tsy fantany izay lazainy na ny antony ilazany izany. Rehefa manoratra bitsika toy ny hoe, “Manoratra lahatsoratra maharesy lahatra momba ny antony tokony hanoloan'ny fiara elektrônika fiara lasantsy,” GPT-4 dia tsy mandanja ny tombony sy ny tsy fahampian'ny angovo madio sy ny geopolitika. Izy io dia misintona ny lamina amin'ny fiteny fantany ary manome anao ny fehezan-teny azo tsapain-tanana indrindra hanarahana ny hevitrao. Na izany aza, misy zavatra mahagaga mitranga: toa kabary izany.


Ary eto no miraikitra ny zavatra. Raha mamokatra zavatra misy fiantraikany amin'ny lahateny ho an'ny daholobe ny AI iray — andao atao hoe miteraka vaovao diso momba ny toetr'andro izay miparitaka be — tokony harovana ve ireo teny ireo amin'ny lalàna momba ny fahalalahana miteny? Fantatsika fa tsy olombelona no namorona ireo hevitra ireo, ka iza, raha misy, no tompon'andraikitra amin'izany? Andeha hojerentsika lalindalina kokoa.

Mpamorona, mpampiasa, na AI: Iza no tena mpandahateny?

Eto no nivadika ho piozila momba ny fandraisana andraikitra ny adihevitra momba ny fahalalaham-pitenenana: Raha tsy avy amin'ny olombelona ny famoahana AI miteraka, iza no tompon'ireo teny ireo ary iza no tompon'andraikitra rehefa diso ny votoaty?


- Ny Mpamorona: Ny orinasa toa an'i OpenAI na Google dia matetika milaza fa manamboatra fitaovana fotsiny izy ireo - sehatra tsy miandany izay mamolavola sy mitarika ny mpampiasa amin'ny alàlan'ny bitsika. “Vao avy nampiofana piano izahay”, hoy izy ireo. “Anjaran'ny hafa ny manapa-kevitra hoe inona no gadona holalaovina." Saingy ity fanoharana ity dia manatsotra zavatra. Ny vokatra AI dia misy fiantraikany be amin'ny angon-drakitra nofidin'ny mpamorona sy ny fomba nanamboarany ny modely. Ny angon-drakitra mitongilana dia miteraka vokatra mitongilana — raha mipoitra ny lahatsoratra manimba, afaka milaza ve ny tsy fiandaniana ny mpamorona?


- Ny mpampiasa: Ahoana ny amin'ny olona mampiditra ny bitsika? Misy milaza fa tokony hitondra ny andraikiny izy ireo. Raha miteny amin'ny AI aho hoe "manoratra lahatsoratra mandrehitra manaparitaka vaovao sandoka momba ny vaksiny", ary manaraka izany, mazava ho azy fa nanana fikasana aho. Sarotra kokoa anefa izany, rehefa tsy fantatry ny mpampiasa ny famoahana vokatra mampidi-doza na rehefa miala amin'ny script any amin'ny faritra tsy voafehin'ny mpampiasa ny vokatra.


- Ny AI mihitsy: azo raisina ho mpandahateny ve ny AI? Ny futurists sasany dia nanombatombana momba ny rafitra AI mahazo ny "Digital Personhood", saingy olana goavana io hevitra io. Ny milina dia tsy manana fikasana, tsy mahazaka andraikitra, ary ny fanitarana ny zon'ny fahalalahana miteny amin'ny milina dia miteraka korontana ara-dalàna.


Ny marina dia tsy misy te handray andraikitra feno. Manamaivana ny andraikiny ny mpamorona, manilika azy ho tsy noeritreretina ny mpampiasa, ary ny AI dia milina fotsiny. Na izany aza, ny fiantraikan'ny votoaty vokarin'ny AI dia mety ho goavana.

Inona no mitranga rehefa miteraka loza ny famoahana AI?

Andeha isika hanipy toe-javatra tena izy ao anatin'ny fifangaroana mba hahatsapana ny vesatry ny olana.


- Tranga 1: Kabary fankahalana

Lazao fa ny rafitra AI generative dia mamokatra votoaty fanavakavaham-bolon-koditra na firaisana ara-nofo. Ny OpenAI sy ny mpamorona hafa dia mametraka fiarovana - toy ny fianarana fanamafisana avy amin'ny valin'ny olombelona (RLHF) - mba hampihenana ny fahavoazana, saingy tsy misy modely tonga lafatra. Mbola afaka mitsambikina ny poizina. Rehefa mitranga izany, iza no diso? Tsy fantatry ny AI izay ataony. Tsy fahombiazana ve izany tamin'ny angon-drakitra OpenAI? Tsy nandray andraikitra tamin'ny bitsika nataony ve ny mpampiasa olombelona? Sa avelantsika tsy ho voafehy ireo vokatra ireo?


- Tranga 2: Disinformation

Alao sary an-tsaina izao fa misy AI mamorona lahatsoratra vaovao sandoka azo itokisana momba ny kandidà politika ary manondraka ny media sosialy. Tsy sahala amin'ny propagandy noforonin'olombelona, ity fampahalalana diso ity dia azo avoaka faobe amin'ny ezaka kely indrindra. Moa ve ireo vokatra ireo dia mahafeno fepetra ho lahateny ara-politika arovana, sa loza ho an'ny daholobe izay tokony hofehezina (na voarara tanteraka)?


- Tranga 3: Fanehoana ara-javakanto

Ahoana ny amin'ny famoronana zavakanto na tononkalo AI? Arovana ho toy ny “fanehoan-kevitra” ve izany eo ambanin'ny fitsipiky ny fahalalaham-pitenenana? Ary rehefa mandresy amin'ny fifaninanana zavakanto na mamorona asa famoronana ny AI, iza no tompon'ny zo amin'ireo vokatra ireo? Ny developer ve? Ny mpampiasa? Sa ve izany sehatra ho an'ny daholobe?


Manjavozavo ny valiny, ka izay no mahatonga ny fitsarana sy ny mpanao pôlitika ho tsy voafehy. Ireo dia tranga faran'izay tsy nampoizin'iza na iza tamin'ny nanoratana ny lalàna momba ny fahalalahana miteny.

Fotoana ho an'ny sokajy vaovao ve izao? “Kabary an-tsarimihetsika”

Mety ilaina ny fanasokajiana ny vokatra AI miteraka tsy ho kabary arovana, fa ho toy ny “kabary siantifika”. Izany dia hanamafy fa na dia ny AI dia maneho ny fanehoan'olombelona aza, dia tsy manana fikasana sy fandraisana andraikitra izay tena mamaritra ny antsoina hoe "kabary" izy ireo. Miaraka amin'ity sokajy vaovao ity, afaka mifehy ny votoaty vokarin'ny AI isika nefa tsy manimba ny zon'olombelona amin'ny fahalalahana miteny.


Ohatra:

- Ny vokatra azo avy amin'ny AI dia mety mitaky fametahana metadata mba hanondroana fa vokarin'ny milina izy ireo (oh: “Novokarin'ny GPT-4”).

- Ny vokatra mampidi-doza (ohatra, vaovao diso, fampielezan-kevitra mahery fihetsika) dia mety hiatrika fanadihadiana manokana na fameperana mihitsy aza amin'ny toe-javatra mampidi-doza, toy ny fifidianana.

- Ny API miteraka atiny AI amin'ny ambaratonga dia mety iharan'ny "fampihenana ny etika" mba hisorohana ny fampielezana fanalam-baraka lehibe.


Ny rafitra toy izany dia hanome antsika toerana hitsaboana ny vokatra AI amin'ny tena maha izy azy: fitaovana mahery vaika, fa tsy fanehoan-kevitra malalaka.

Hevitra farany: Kabary ho an'ny olombelona, Fitaovana ho an'ny milina

Raha toa ka malina aho, dia satria ity adihevitra ity dia manana tsatòka lehibe lavitra noho ny tohan-kevitra ambonin'ny tany momba ny “inona no atao hoe kabary.” Ny fampitoviana ny vokatra AI miteraka amin'ny kabary ataon'olombelona dia mampidi-doza manamaivana ny tanjon'ny fahalalaham-pitenenana — fihetsika mifamatotra amin'ny fikasana, ny famoronana ary ny fandraisana andraikitra. Mino aho fa tena asan'olombelona ny kabary. Miroborobo amin'ny fandraisana andraikitra sy ny fifanakalozam-kevitra misy tanjona. Tsy mitovy amin'izany toe-tsaina izany ny milina, na dia mitovy amin'ny antsika aza ny vokatra azony.


Amin'ny fotoana anombohantsika miaro ny teny vokarin'ny milina eo ambanin'ny lalàna mitovy amin'ny fiarovana ny fitenin'olombelona, dia manalefaka ny dikan'ny fahalalaham-pitenenana. Andeha isika hankalaza ny AI amin'ny maha-fitaovana mahagaga azy—fa aoka ho fantatsika koa hoe aiza no tokony hijanonana ny fanatratrarana azy. Rehefa dinihina tokoa, ny fahalalaham-pitenenana dia momba ny maha-olombelona, fa tsy ny mety hitranga amin'ny harato neural.


Inona àry no hevitrao? Eo amin’ny hantsana malama ve isika, sa aho mitandrina be loatra? Ampahafantaro ahy - ataovy azo antoka fa ianao, fa tsy robot AI, no mitabataba :)

L O A D I N G
. . . comments & more!

About Author

Ashish Pawar HackerNoon profile picture
Ashish Pawar@pawarashishanil
Ashish Pawar is an experienced software engineer skilled in creating scalable software and AI-enhanced solutions across data-driven and cloud applications, with a proven track record at companies like Palantir, Goldman Sachs and WHOOP.

HANG TAGS

ITY ARTICLE ITY NO NARESAKA TAMIN'NY...