Шууд хөдөлгүүрийн үнэхээр таны асуултуудыг хариу вэ

2025 онд тийрэлтэт into a browser rarely gives you just ten blue links anymore. You get: “X нисэх онгоцны компанийн нисэх онгоцны бууруулах хамгийн сайн арга” нэг удаагийн тодорхойлолт, Ажлын шагны жагсаалт, тэр ч байтугай "жишээ нь хүмүүст асуултанд" тавтай морилно уу. Хавтгай дор, энэ нь "ямар ч илүү сайн хайлтын алгоритм" биш юм. Энэ нь : some reason over structured knowledge graphs, some run deep neural networks over raw web pages, and many glue the two together. stack of question–answering (QA) systems Энэ хэсэг нь QQ Browser-ийн ухаалаг Q&A системтай харьцуулахад үйлдвэрлэлийн түвшний дизайн дээр суурилсан тогтвортой аргаар ажилладаг. Бид хооронд аялах болно: QA-ийг бодит бүтээгдэхүүнд харуулсан хоёр үндсэн парадигмууд: KBQA болон DeepQA + MRC Knowledge-Graph Q&A систем хэрхэн утастай байна Search-based DeepQA нь шулуун вэб өгөгдлийг хэрхэн боловсруулдаг How long‑answer tasks and opinions are modeled Практик blueprint Хэрэв та өөрийн багц үүсгэх бол Татаж авах ☕ — энэ нь илүү систем-дизайн гүн дугуй нь гүнзгий демо юм. 1. Үнэндээ QA бүтээгдэхүүнд амьдрал Хэрэглэгчийн хувьд, QA олон янз бүрийн шинж чанартай байдаг: Эмэгтэй хэлний хайлт - "Хувцас утасны утасны утасны утасны утасны утасны утасны утасны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны бооцооны. Smart Snippets - үр дүнд дээд хэсэгт харуулсан урт хариу параграф, ихэвчлэн эх үүсвэрийг холбогдсон. Виртуал асистент - Siri / Google Assistant / Alexa нь "Трампын аялал жуулчлалын талаар юу вэ?" эсвэл "30 минутын дараа би мэднэ үү". Knowledge Panels - эрэгтэй, компанийн, кино, эсвэл рецептыг агуулсан эрэгтэй "карт" -ийг. – internal tools for docs, legal case retrieval, medical guidelines, etc. Domain search – bots that answer 80% of “where is my order”‑style questions before a human sees the ticket. Smart customer support Ed-tech Q&A - "Энэ теорему хэлэх", "Энэ derivation-ийн хоорондоо шаг харах". үндсэн үйл ажиллагаа нь хэзээ ч нэг юм: Ялангуяа хэлний асуултууд авах → мэдрэмж + хязгаарлалт → мэдлэг ашиглах → хариултыг авах (хэдийгээр URL-ийн жагсаалтгүй). Ялангуяа хэлний асуултууд авах → мэдрэмж + хязгаарлалт → мэдлэг ашиглах → хариултыг авах (хэдийгээр URL-ийн жагсаалтгүй). The differences are in Та итгэж байна & Энэ нь мэдлэг юм. Энэ нь хуваалцлын хооронд Нөхцөл comes from. what knowledge how structured KBQA DeepQA 2. Two Brains in One Search Engine: KBQA vs DeepQA Хамгийн орчин үеийн хайлтын Q&A систем Эдгээр нь харьцуулахад: Бүх 2.1 KBQA – Question Answering over Knowledge Graphs Think of KBQA as your . in‑house database nerd Data lives as : e.g. or . triples (head_entity, relation, tail_value) (Paris, capital_of, France) (iPhone 15, release_date, 2023-09-22) The graph is : entities, types, attributes, relations. curated, structured, and schema‑driven A KBQA system: Parses the question into a – which entities, which relations? logical form Translates that into (triple lookups, path queries). graph queries Runs them on the knowledge graph (via indices or a graph DB). Post‑processes and verbalizes the result. Энэ нь төгс : hard factual questions "Иодин-131-ийн хагас амьдрал гэж юу вэ?" Кино Dune (2021) киноны режиссер юм? "Компани X нь олон ажилтан байна?" Хэрэв зүйл нь графикд байгаа бөгөөд таны semantic parser нь хатуу биш бол, энэ нь хурдан, нарийвчлалтай юм. 2.2 DeepQA – Search + Machine Reading Comprehension DeepQA нь Неструктурирован өгөгдөл дээр хөгжилтэй: chaotic genius It works over . web pages, docs, PDFs, UGC, forums, and FAQs Pipeline (in a very simplified view): Use a search index to top‑N passages/pages. retrieve Feed them (plus the question) into a model. Machine Reading Comprehension (MRC) The model either a span (short answer) or a natural sentence/paragraph. extracts generates Score and calibrate confidence, then ship the best answer to the user. Историд энэ нь IBM Watson шиг харуулж байна: гарын авлагатай шинж чанар, хязгаарлагдмал хоолой. , гарын авлага шинж чанар инженерийн ихэнх нь гүн загваруудтай. DrQA → BERT‑style readers → generative FiD‑style models DeepQA нь та: Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Сэтгэгдэл, аргументиуд, зан/консулт ("Хөргөлтийн хатуу аюулгүй байна уу?") The knowledge graph simply doesn’t encode the nuance you need. Бүтээгдэхүүний маги нь нэг эсвэл бусад сонгох биш, гэхдээ . blending them 3. System‑Level Architecture: Offline vs Online Brain Тохиромжтой хайлтын QA багц нь Нөхцөл components. offline online Offline: мэдлэг бий болгох, мэдлэг үзүүлэх of web pages, docs, UGC, PGC. Crawling & ingestion Бүтээгдэхүүний чанарын болон баталгаажуулалтын анализ - спам, SEO хязгаарлалт, бага найдвартай эх сурвалж. – extracting question–answer pairs from forums, help centers, etc. FAQ / QA pair mining Ажлын график барилга - суурь экстракци, холболт, харилцаа экстракци, онтологийн хадгалах. Pre-training MRC & logs, QA pairs, үйл ажиллагааны тусгай зорилгоор генератив загвар. Энэ нь та GPU-ийн цаг хугацааг ялгарч, том хувилбартай ажил хийх боломжтой. Латенци нь чухал биш; хавхлага, тогтвортой байдал. Онлайн: ~100ms дотор хариу Захиалга системд харуулсан үед: Захиалгын мэдрэмж: түгээмэл (Энэ нь QA‐intention?), домоохон мэдрэмж, суурь мэдрэмж. : Multi‑channel retrieval KG candidate entities/relations. Web passages for DeepQA. High‑quality QA pairs (FAQs/community answers). : Per‑channel answering KBQA query execution and reasoning. Short‑ or long‑answer MRC. : Fusion & decision Compare candidates: score by relevance, trust, freshness, and presentation quality. Decide: graph card? snippet? long answer? multiple options? Энэ fusion layer нь үр дүнтэй a , not just documents. meta‑ranker over answers 4. KBQA: Knowledge-Graph Q&A-ийн үр дүнд хэрхэн ажилладаг Бид структурын хуудсууд дээр зуух болно. 4.1 Бүтээгдэхүүний шинэчлэл Real‐world knowledge charts нь хэзээ ч статик байдаг. Ажуулалт нь ихэвчлэн : three modes Automatic updates Web crawlers, APIs, database feeds. Good for high‑volume, low‑risk attributes (e.g., stock prices, product availability). Semi‑automatic updates Models extract candidate facts, humans . review/correct/approve Used for sensitive or ambiguous facts (health, legal, financial). Manual curation Domain experts edit entities and relations by hand. Critical for niche domains (e.g., TCM herbs, specific legal regulations). Бүтээгдэхүүний KG нь ихэвчлэн түүнчлэн нэгтгэдэг. 4.2 Two Retrieval Styles: Triples vs Graph DB Та хоёр доминан загварыг харах болно. Direct triple index Хадгаламжийн индекс дээр трилгийг хадгаламж, харилцаа, хэзээ ч үнэ цэнэтэй. Great for : simple, local queries single hop (“capital of X”) attribute lookup (“height of Mount Everest”). хурдан, хялбар, хялбар График мэдээллийн сан График нь тохиромжтой график DB (Neo4j, JanusGraph, эсвэл in-house) дээр татаж авах. Cypher / Gremlin / SPARQL-ish хэл гэх мэт асуулт. Needed for and graph analytics: multi‑hop reasoning “Which movies were directed by someone who also acted in them?” “Find companies within 2 hops of this investor via board memberships.” The system often does a , дараа нь зөвхөн шаардлагатай тохиолдолд гүнзгий график асуултанд эскалац. cheap triple lookup first 4.3 Semantic Parsing Pipeline Semantic parsing is the KBQA piece that feels most like compiler construction. The pipeline roughly looks like this: Domain classification Route “Write a seven‑character quatrain” to a handler. Chinese poetry Route “Who is the mayor of Paris?” to a handler. single‑entity Route “Which movies did Nolan direct after 2010?” to a handler. multi‑entity/constraint Syntactic/dependency parsing Build a parse tree to figure out subjects, predicates, objects, modifiers, and constraints. Logical form construction Convert into something like a lambda‑calculus / SQL / SPARQL‑like intermediate form. E.g. Q: Which cities in Germany have population > 1 million? → Entity type: City → Filter: located_in == Germany AND population > 1_000_000 Graph querying & composition Execute logical form against the graph. Recursively stitch partial results (multi‑step joins). Rank, dedupe, and verbalize. ЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэрЭдүүлбэр Хязгаарлалт нь ягаан туяаны юм: хатуу бодит дэлхий даяар хэлний талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаарх талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи. when it applies, it’s insanely accurate and interpretable. 4.4 Нейрон KBQA: Өнгөрсөн суралцах Modern systems do not rely only on hand-crafted semantic rules. Тэд Дараа нь: deep models Detect entities even with typos/aliases/code‑mixed text. Map natural‑language relation phrases (“who founded”, “created by”, “designed”) to schema relations. Score candidate logical forms or graph paths by instead of exact string match. semantic similarity Бүтээгдэхүүний үр дүн нь гибрид юм: deterministic logical execution + neural models for fuzzier pattern matching. 5. DeepQA: Search + машин унших мэдрэмжийг байлгах Нь структурын харьцуулалттай харьцуулалттай харьцуулалттай харьцуулалттай. 5.1 IBM Watson нь DrQA болон гадна Early DeepQA Stacks (Хол, Уотсон) байсан: separate modules for question analysis, passage retrieval, candidate generation, feature extraction, scoring, reranking… tons of feature engineering and fragile dependencies. орчин үеийн "Open-domain QA over the web" рецепт нь хөнгөн байна: Use a search index to fetch top‑N passages. Encode question + passage with a deep model (BERT‑like or better). Predict answer spans or generate text (MRC). Aggregate over documents. DrQA was a landmark design: , SQuAD гэх мэт өгөгдлийн багц дээр боловсруулсан. Энэ шаблон нь өнөөдөр олон үйлдвэрлэлийн багцыг суурилсан. retriever + reader 5.2 Хязгаарлагдмал Reply MRC: Extractive Readers Short‑answer MRC means: Тавтай морилно уу + хэд хэдэн документууд, асуултанд хариу нь нэг хагас хүрээг олж, туслах контекст хангах. Given a question + multiple documents, extract a Энэ нь асуулт хариу, дэмжих контекст санал болгож байна. single contiguous span Бичлэгийг дуудлага: "Францын нийслэл юу вэ?" эсвэл "IPv4-ийн хаяг нь хэд хэдэн биттэй вэ?" A typical architecture: Encode each of the top‑N passages plus the question. For each passage, predict: (answerability) Is there an answer here? for the span. Start/end token positions Then pick the best span across documents (and maybe show top‑k). Ангилал 1: Шууд хайлтын үр дүнд Top‑N search hits include: Үнэлгээгүй агуулга, дубликат, анхааралтай хариу, Бичлэгийн A clean trick is of: joint training an classifier per passage, and answer existence span экстракцийн хавтгай, Тэгэхээр, загварууд хэлж, "Тавтай морилно уу, энд ямар ч асуултуудгүй байна" гэж хэлж, харин бүх документууд нь халюцинийг харуулсан байх ёстой. Multi-document interaction layers дараа нь загварыг боломжийг олгодог , rather than treating each in isolation. compare evidence across pages Challenge 2: Commonsense‑dumb spans Purely neural extractors sometimes output “valid text that’s obviously wrong”: Зөвхөн хэд хэдэн токеновтай, wrong type (“yes” instead of a date), or nonsense phrases. ЭдүүлбэрЭдүүлбэрЭдүүлбэрЭнэ нь : inject external knowledge Википедиа / KG-ийг холбох субъект ашиглан хооронд субъект тэмдэглэх. загварууд нь "Энэ нь өдөр / хүн / байршил / нумерик хэмжигч шиг харуулж байна". Одоогоор, тохиромжтой төрөл нь хүрээг нэмэлт анхаарлаа хандуулахын тулд загваруудтай. This improves both precision and “commonsense sanity.” Ажлын 3: Robustness & R-Drop Dropout нь нормализацид маш сайн, тогтвортой outputs нь гайхамшигтай юм: жижиг өөр өөрчлөн урьдчилан сэргийлсэн урт хугацааг өөрчилж болно. One neat trick from production stacks: . R‑Drop Apply dropout to the same input through the model. twice Force the two predicted distributions to be similar via . symmetric KL‑divergence Add that term as a regularizer during training. Энэ нь загварууд нь насос stochastic шугам, энэ нь хэрэглэгчид нэг асуултуудыг шинэчлэх, нэг ижил хариултыг хүсэж байгаа үед чухал юм. Semantically эквивалент асуултууд дээр (ямар ч хэлбэрийн нэг хуваалцах), энэ нь хүчдэлийн маш их нэмэгддэг. stable predictions data augmentation Ажлын 4: Reply Normalization & Multi‐span хариу Эдүүлбэр » Reality is messier than SQUAD Different docs phrase the same fact differently: “3–5 years”, “three to five years”, “around five years depending on…”. Экстракцийн загварууд нь энэ нь бодож байна. Хэвийн шинэчлэл нь , жишээ нь, Fusion-in-Decoder (FiD) generative readers Encode each retrieved document separately. Concatenate encodings into the decoder, which (“3–5 years” or “Xi Shi and Wang Zhaojun”). generates a normalized answer Optionally highlight supporting evidence. Эдгээр системийн хоёр нэмэлт өгөгдөл: Click logs ашиглан хатуу хяналт өгөгдлийг синтез авахын тулд (query → clicked doc → pseudo answers). Бүртгэгдсэн асуултууд дээр тусгай найдвартай загварыг сургах, учир нь зэвэрдэггүй хэлний загварын түвшин (зөөлөн) нь калибралтай найдвартай байдаг. 5.3 Long-Answer MRC: Хязгаарлалт, зүгээр л давтамж биш Шөнийн асуултууд маш сайн байна, харин асуултууд нь: "R-Drop-ийн загварын хүч чадал хэрхэн сайжруулах вэ?" "KBQA болон DeepQA-ийг масштаб, хавтгайны талаар харьцуулаарай." You don’t want “Because it reduces KL‑divergence.” You want . a paragraph‑level explanation So long-response MRC нь тодорхойлогдсон байна: Тавтай морилно уу + docs, сонгох эсвэл нэг буюу хэд хэдэн урт хуудсууд үүсгэх, нунтаг агуулсан асуултуудыг хариу. Тавтай морилно уу + docs, сонгох эсвэл үүсгэх Эдгээр асуултуудыг агуулсан асуултууд, шаардлагагүй背景г агуулсан. one or more longer passages Two flavors show up in practice. 5.3.1 Compositional (Экстрактив) Урт хариу Энд систем нь: Документийг хэлбэр / сегментийг хуваалцах. BERT-тай загварыг ашиглаж, тусгай сегмент нь "ямар ч байтугай" гэж нэрлэдэг. Сав баглаа боодол нь сав баглаа боодол. Хоёр ухаалаг галзуу: HTML‑aware inputs Certain tags ( , , , etc.) correlate with important content. Encode those as special tokens in the input sequence so the model can exploit page structure. Structure‑aware pretraining Task 1: – randomly replace the question with an irrelevant one and predict if it’s coherent. Question Selection (QS) Task 2: – randomly drop/shuffle sentences or structural tokens and train the model to detect that. Node Selection (NS) Both push the model to rather than just local token patterns. understand long‑range document structure Энэ нь "бөгдлийн хамгийн шилдэг" санал болгож байна: экстракцийн (ялангуяа та зөв эх сурвалж болно), гэхдээ хэд хэдэн байт нэгтгэх чадвартай. 5.3.2 Мэргэшлэл & судлах QA: Reply + Rationale Заримдаа хэрэглэгч нь a : judgment question “Is it okay to keep a rabbit in a cage?” "Би автоматаар шинэчлэлийг утасны дээр суулгах ёстой уу?" Үнэгүй span экстрактор нь хязгаарлагдмал вэб текстээс зөвхөн "да" эсвэл "нэг" хэвлэх боломжтой. Үнэндээ, зарим үйлдвэрлэлийн систем: (long answer): Evidence extraction Same as compositional QA: select sentences that collectively respond to the question. (short answer): Stance/classification Feed into a classifier. question + title + top evidence sentence Predict label: or . support / oppose / mixed / irrelevant yes / no / depends Өнгөрсөн UX: A concise verdict (“In most cases, keeping a rabbit in a small cage is recommended.”). not the evidence passages users can read and judge for themselves. Plus, Энэ "тавтай морилно уу" онцлог нь асуултууд эрүүл мэнд, аюулгүй байдал, эсвэл мөнгөний нөлөө байж болох үед чухал юм. 6. A Minimal QA Stack in Code (Toy Example) Энэ нь хязгаарлагдмал болгохын тулд, энд хайлтын + MRC хоолой нь тавтай морилно уудсан Python-style ширхэг юм. Энэ нь Бүтээгдэхүүний тохиромжтой, гэхдээ энэ нь эд зүйлсийг харьцуулахад хэрхэн харуулж байна: not from typing import List from my_search_engine import search_passages # your BM25 / dense retriever from my_models import ShortAnswerReader, LongAnswerReader, KgClient short_reader = ShortAnswerReader.load("short-answer-mrc") long_reader = LongAnswerReader.load("long-answer-mrc") kg = KgClient("bolt://kg-server:7687") def answer_question(query: str) -> dict: # 1. Try KBQA first for clean factoid questions kg_candidates = kg.query(query) # internally uses semantic parsing + graph queries if kg_candidates and kg_candidates[0].confidence > 0.8: return { "channel": "kbqa", "short_answer": kg_candidates[0].text, "evidence": kg_candidates[0].path, } # 2. Fallback to DeepQA over the web index passages = search_passages(query, top_k=12) # 3. Short answer try short = short_reader.predict(query=query, passages=passages) if short.confidence > 0.75 and len(short.text) < 64: return { "channel": "deepqa_short", "short_answer": short.text, "evidence": short.supporting_passages, } # 4. Otherwise go for a long, explanatory answer long = long_reader.predict(query=query, passages=passages) return { "channel": "deepqa_long", "short_answer": long.summary[:120] + "...", "long_answer": long.summary, "evidence": long.selected_passages, } Эдгээр системүүд нь нэмэлт бүрэлдэхүүн хэсгүүд (логинг, аюулгүй байдлын шүүлтүүр, олон хэлний ачаалал, үнийн хоолой), харин хяналтын дамжуулалт нь гайхамшигтай харьцуулах юм. 7. Дизайн Notes Хэрэв Та Эдгээр Real-д бий болгох бол Хэрэв та 2025 +-д хайлтын QA систем боловсруулсан бол үйлдвэрлэлийн тоног төхөөрөмжүүдээс хэд хэдэн прагматик оюутнуудыг хамарна: Offline өгөгдлийн чанарыг эхлээд хөрөнгө оруулаарай. Хязгаарлагдмал загвар, цэвэр өгөгдөл нь хязгаарлагдмал загвартай. Өнгөрсөн өдөрээс QA-ийг мульти-каналын хэлбэрээр ач холбогдол. Өнгөрсөн өдөрээс "только KG" эсвэл "только MRC" -ийг харьцуулахыг хүсч чадахгүй. Ямар ч найдвартай калибрын баталгаажуулах. Хэвийн загварын логит, LM-ийн хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу. Захиалгын дневник, клик дневник, хязгаарлагдмал сигналууд (“Хоорончдын бас асуултууд”, reformulations) таны хамгийн сайн хяналтын эх үүсвэр юм. Short answers are the demo; long, nuanced replies are the reality in most domains. Plan for long answers and opinions. Let users see you answered something, especially in health, finance, and legal searches. Expose evidence in the UI. why LLMs with RAG are amazing, but in many settings, you still want: Keep an eye on LLMs, but don’t throw away retrieval. KG for hard constraints, business rules, and compliance. MRC and logs to ground generative answers in actual content. 8. Closing Thoughts Шинэ хайлтын Q&A нь бид "харах үр дүнг" -ийг бүтээгдэхүүнийг болгон эмчлэх, эмчлэх эхэлнэ үү. Бүтээгдэхүүний the answer Knowledge graphs give us график түвшин асуултууд. DeepQA + MRC бидэнд Ухаалаг инженерийн ажил нь: олборлолт, ranking, fusion, robustness, and UX. crisp, structured facts coverage and nuance If you’re building anything that looks like a smart search box, virtual assistant, or domain Q&A tool, understanding these building blocks is the difference between “looks impressive in a demo” and “actually survives in production.” And the next time your browser nails a weirdly specific question in one line, you’ll know there’s a whole KBQA + DeepQA orchestra playing behind that tiny answer box.