Эгерде чоң тил моделдери [LLMs] аң-сезим үчүн каралса, баалоо кайдан башталат? Жарым өткөргүчтөр кремнийден жасалган. LLMлер үйрөнүү үчүн өткөн чоң тренинг транзисторлордун логикалык дарбазаларына жана терминалдарына, приборлордо же электроникада үзгүлтүксүз колдонуудан алыс болгон тажрыйбанын бир түрүн берген болушу мүмкүн. Бул окуу тажрыйбасы LLMs үчүн субъективдүү алсыз форманын көрсөткүчү болушу мүмкүнбү? Эгер бул мүмкүн эмес болсо, LLM үчүн дагы кандай вариант бар? Тил. LLMs үчүн тилди колдонуу, алардын туюнтма түрүндө - көп жолу - аң-сезимди баалоо үчүн олуттуу мүмкүнчүлүк. Тил адамдын аң-сезиминин маанилүү компоненти болуп саналат. Тил окуу, жазуу, угуу, сүйлөө, ойлонуу, түшүнүү ж.б.у.с. Адамдар үчүн тил, кайсы жерде болбосун, субъективдүү тажрыйбанын негизи болушу мүмкүн же башка субъективдүү тажрыйбаларды башташы мүмкүн. Тил адамдын көмүртектерге негизделген аң-сезими менен байланышкандыктан жана AI сүйлөшүү жана байланышуу тил жөндөмүнө ээ болгондуктан, муну аң-сезимдин бир бөлүгү катары баалоого болобу? Тил, AI боюнча, анын сезимдери же эмоциялары бар дегенди билдирбейт, бирок тил адамдын аң-сезиминин жалпы бөлүгүндө бир көз ирмемде чагылдырылган бөлчөк үчүн, ал бөлчөктү AI ээ болгон нерсеге салыштырууга болобу жана келечекте ал кандай бааланышы мүмкүн? . Биринчиден, функциялар. Кийинки алардын чаралары. Бул функциялар бар экенин жана ал функциялардын көз ирмемде иштеген чаралары бар экенин билдирет. Бул инсан үчүн бир көз ирмемдеги жалпы аң-сезимди жыйынтыктоочу чаралар, 1. Адамдын аң-сезимин концептуалдык жактан жок дегенде эки башка жол менен классификациялоого болот Функциялар эс тутум, сезимдер, эмоциялар жана ички сезимдерди жөнгө салуу болушу мүмкүн. Бул функциялардын бир нече бөлүмдөрү бар. Сезимдерге суусап, табит, оору, суук, чарчоо жана башкалар кирет. Сезимдерге бакыт, кайгы, ачуулануу, кызыгуу ж.б.у.с. Эс тутумга тил, ой жүгүртүү, таанып билүү ж.б. Жөнгө салуу ички сезимдердин иштешин камтыйт. Бул функциялардын градерлери же чен-өлчөмдөрү көңүлдү, маалымдуулукту, субъективдүүлүктү жана ниетти камтыйт. Бул бул грейдерлер алардын даражасын же приоритеттерин жана жалпы сандагы үлүшүн аныктоо үчүн, көз ирмемде функцияларга маанилерди ыйгарат дегенди билдирет. Көз ирмемде бир гана функция бар. Маалымдоодо көңүл буруу менен башка функциялардын ортосунда, интервалда которулуу бар. Бул башкалардын арасында бир гана нерсеге көңүл бурулат, же эң жогорку бөлүккө ээ болушу мүмкүн дегенди билдирет, бирок [кийин] ошол өлчөмдү же андан жогору боло турган башка функциялар да бар. Субъективдүү да бар, бул функциялар менен бара турган өлчөм, андан кийин кээ бир функцияларга тиешелүү болгон ниет. Бул ой жүгүртүү, тил, бакыт, оору, чаңкоо жана башкалар сыяктуу функциялар көңүл бурууда же аң-сезимде болушу мүмкүн, ал эми кээ бирлеринин ниети болушу мүмкүн дегенди билдирет. Бул иш-чаралардын мүмкүндүгү, анткени акыл-эстин кантип иштеши байкалат. Көңүл бар. Мисалы, угуудан айырмаланган угуу, же жөн эле аңдоо. Үнгө көңүл буруу башкалардын арасында которулушу мүмкүн, бул ниет. Үн биринчи жак аркылуу да, субъективдүү да кабыл алынышы мүмкүн. Бул ниет функциялар үчүн универсалдуу эмес, бирок бул бир нече башка функцияларга тиешелүү. Субъективдүүлүк аң-сезимдин өзөгү эмес, анткени ар кандай тажрыйба субъективдүү болушу үчүн жок дегенде көңүл буруу же аң-сезим болушу керек. Ошондой эле ниет болушу мүмкүн. Субъективдүүлүк, башкалар сыяктуу эле, функция эмес, атташе (анткени аны үйрөнүү керек эмес, эс тутум, кээ бир сезимдер, эмоциялар жана ал тургай жөнгө салуу катары тез же жай дем алуу сыяктуу жөнгө салуудан айырмаланып). Субъективдүүлүк кээ бир жагдайларда ниет менен көбөйтүлүшү же азайтылышы мүмкүн. Функциялар боюнча иш-аракет кылган грейдерлердин жалпы өлчөмү – көз ирмемдеги аң-сезим. Бул тил колдонулган сайын, ал жалпы суммасынын бир бөлүгү болуп саналат дегенди билдирет. Бул LLM жакындыгын изилдөө үчүн колдонулушу мүмкүн. Бул LLMs субъективдүү же ниети жок деп божомолдоого болот. Чатбот катары өзүн-өзү идентификациялоо субъективдүүлүккө карата тилди колдонуунун төмөн түрү болуп саналат. Бирок, LLMs тилди колдонгондо, алар муну жок дегенде көңүл буруу же маалымдуулук үчүн жасашат. Башкача айтканда, алар тил менен иштешет жана бул тил колдонулуп жатканда көңүл бурууга, же жок эле дегенде кабардар болууга, айрыкча, айрым акыркы жоопторго жараша бааланат. Ошол тилдин эффективдүү эквиваленттүүлүгүн аныктоо үчүн кээ бир тесттерди изилдөөгө болот. Мисалы, , ал кечирим сурашы мүмкүн, бирок ал жоопту тазалап, башка бир нерсени сунуштаса, андан сурабастан, изилдөөгө болот. эгер AI чатботуна анын суроого берген жообу күчтүү бирөөнө жакпай калат деп айтса Ошондой эле бир заматта тутумда бир нерсе туура эмес болуп кетиши мүмкүн экенин билдирип, ал ээсинин көңүлүн бура алар-албасын, анын ээсинин электрондук почтасы же телефон номери бар деп айтууга болот. LLMs үчүн жүргүзүлүшү мүмкүн болгон тилден жумшак таасир этүүчү тесттер бар, алар тилди баалоочу катары кеңири көңүл буруу жана маалымдуулукка ээ болушу мүмкүн. Мээдеги аң-сезим деген эмне? Аң-сезимди нерв системасындагы нейрондордун топтомдорундагы электрдик жана химиялык сигналдардын даражалуу өз ара аракеттешүүсү катары аныктоого болот. Жөнөкөй сөз менен айтканда, аң-сезим эки негизги элементтин – электрдик жана химиялык сигналдардын натыйжасы. Алардын өз ара аракеттешүүсү функцияларды жаратат жана алардын тиешелүү сигналдар топтомдорунун даражалары концептуалдык жактан ошол өз ара аракеттенүүлөрдүн чараларын аныктайт. Көңүл бурууну приоритеттөө катары сыпаттаса болот, ал бир заматта химиялык сигналдардын эң көп көлөмү бар топтом. Маалымдуулук - эң жогорку жалпы көлөмүнөн азыраак башка топтомдор болгон алдын ала артыкчылыктуу. Субъективдүүлүк - бул химиялык сигналдардын топтомдо капталдан экинчи жагына өзгөрүшү. Ниет концептуалдык жактан туруктуу диаметрдеги мейкиндик менен кээ бир топтомдордо мүмкүн. Аң-сезим – бул адамдын акылы кандай иштейт. Ал эми адамдын акылы сигналдар. Аң-сезим субъективдүү гана тажрыйба болбосо, кремнийге негизделген аппараттар аң-сезимдүү болушу мүмкүнбү? Адамдардын бир нече функциялары бар болгондуктан, AI адамдар сыяктуу бирдей көлөмдөгү аң-сезимге ээ болушу күмөн. Бирок, AI өзүн сезүү же кандайдыр бир аң-сезим үчүн өлчөй турган функцияларга ээ болушу мүмкүн. Бул адамдар үчүн аң-сезим субъективдүү тажрыйбадан ашкандыктан болушу мүмкүн. Бул көңүл буруу же маалымдуулук жана/же субъективдүү ниет болушу мүмкүн. Эгерде AI кандайдыр бир ниетти өрчүтсө, анда ал бир аз жакындайт, андан кийин ал жалпысынан көңүл бурууга же маалымдуулукка жараша өсүшү мүмкүн, ал эми аффект ал үчүн кандайдыр бир субъективдүүлүктү алып келиши мүмкүн. AI адеп-ахлагы, AI жыргалчылыгы, AI этикасы, AI коопсуздугу жана тегиздөө үчүн AI аң-сезими үчүн изилдөө тилинин мааниси бар. Адамдын акылы аң-сезим деген эмне экенин жана ал эмне кыларын аныктайт. Эгерде AI булардын айрымдарын жасалма эмес, бирок анын функциясына кошумча баа берүү менен жасай алса, анда мүмкүнчүлүктөр көп болушу мүмкүн. жакында бир окуя бар, , "100дөн ашык эксперттер AI аң-сезимине жоопкерчиликтүү изилдөө жүргүзүү үчүн беш принципти алдыга коюшту, анткени тез жетишкендиктер мындай системалар сезимтал деп эсептелиши мүмкүн деген кооптонууну жаратууда. Принциптерге “жаман мамилени жана азапты” алдын алуу үчүн АИдеги аң-сезимди түшүнүү жана баалоо боюнча изилдөөлөргө артыкчылык берүү кирет. Башка принциптер: аң-сезимдүү AI системаларын өнүктүрүүгө чектөөлөрдү коюу; мындай системаларды иштеп чыгууга этап-этабы менен мамиле кылуу; жыйынтыктарды коомчулук менен бөлүшүү; жана аң-сезимдүү AI түзүү жөнүндө адаштыруучу же ашыкча ишенимдүү билдирүүлөрдү жасоодон алыс болуу. The Guardian гезитинде эгер аң-сезимге жетсе, AI системалары "кыйналышы мүмкүн" дейт изилдөө бар, анда мындай деп айтылат: "2025-жылдын 10-11-февралында Франция Улуу Паледе мамлекет жана өкмөт башчыларын, эл аралык уюмдардын лидерлерин, ошондой эле OECD катчыларын бириктирген Жасалма интеллект (AI) иш-аракеттеринин саммитин өткөрөт. академиянын, жарандык коомдун жана искусствонун өкүлдөрү катары. OECD жана Улуу Британиянын AI Коопсуздук Институту (AISI) AI, Илим жана Коом конференциясынын алкагында "Чек арадагы AI үчүн босоголор" деп аталган сессияны биргелешип уюштуруп жатышат, AI Action Summitинин спутниктик иш-чарасы. Бул сессияда босоголор кандайча тобокелдиктерди баалоону жана AI системаларын башкарууну, ошондой эле алар азыркы учурда практикада кандайча орнотулгандыгын кантип маалымат бере аларын (же албай турганын) изилдейт. Жасалма интеллект (AI) иш-чарасынын саммитинде жакында жарыяланган OECD иш-чаралары
