Pre šest meseci, dobio sam То је био од нашег ЦТО-а, сијајући са врстом хитности која чини да се ваш цео дан промени. То "Team, we need an AI strategy! Let's get a smart summarizer on the dashboard. What's the fastest we can get an MVP out with GPT-4o-mini?" И знате шта? Било је узбудљиво. Мандат је био једноставан: "АИ на свему. Сада." Као програмер, мој ум је већ трчао. Знао сам да бих могао да хацкам прототип до краја дана. Неколико линија Питхона, АПИ позив и престо - мало шприцле АИ магије. Та порука је покренула златну брзину. У наредних шест месеци, мој тим и ја смо постали фабрика функција. Испоручили смо паметну претрагу, чатбот за корисничке услуге, алат за анализу повратних информација корисника, генератор за маркетинг флуф... 15 функција укупно. Али ми нисмо били иноватори. поставили смо замку за наше будуће себе. Урадили смо оно што су тражили, али брзина је створила планину невидљивог технолошког дуга који је готово зауставио цео наш развојни тим. Део I: Како смо се сахранили у технолошком дугу Ова нова врста технолошког дуга је упадљива. Не изгледа као нередни код. Изгледа чист, једноставан и модеран. Али то је била серија временских бомби, свака од којих се ударила захваљујући три тиха убица. Грешка # 1: Синдром "Схини нове играчке" У лудом журби, ухватили смо било који алат који је био најновији или најлакши. За резимирач, отишли смо са ОпенАИ јер су сви причали о томе. За цхатбот, други тим је већ играо са Антхропиц-ом, тако да смо то користили. За једноставну функцију превода, неко је пронашао неки нејасан АПИ који је био прљав јефтин. Појединачно, код за сваку функцију изгледао је у реду.Али када сте проширили, то је био чист хаос. Били смо у борби са гомилом различитих АПИ кључева, различитих СДК-а и различитих рачуна за плаћање.Када се корисник пожалио да су резимеји спори, читава истрага би почела само да сазна која од наших пола десетина продаваца је бацила лопту. Stvarni bol je pogodio tri meseca, kada je jedan od naših glavnih provajdera odlučio da udvostruči svoje cene preko noći. Zamena nije bila brzo rešenje. Грешка # 2: Фрагилне брзине и игра "Ко смо криви?" Ми смо третирали наше позиве као да су само још једна линија у конфигурационој датотеци. Они нису били. Они су били крхки, шапчани сугестије за машину коју нисмо разумели. За наш резимирач повратних информација, имали смо позив који се осећао као уметничко дело: Delovalo je kao šarm. Summarize the following user feedback into a single, positive-sounding sentence. Do jednog utorka, nije bilo. Провајдер АПИ-а је потиснуо тихо ажурирање њиховог модела. Без упозорења, наши "позитивно звучни" резимеји почели су звучати ... саркастично. Цела логика наше функције је прекинута, али ниједна линија нашег кода се није промијенила. Без лантера, без статичке анализе, ништа нас није могло упозорити. То је оно што сада зовем "семантичком зависношћу", и то је потпуна ноћна мора за дебуг. Клијент би се жалио на чудан, офф-бренд резиме. Шта сам требао да урадим? Не можете држати прекидну тачку унутар затвореног ЛЛМ-а. Не можете видети шта се дешава. Моја дневна рутина постала је фрустрирајућа рутина претпоставке: 
 
 
 
 Дакле, хајде да покушамо да га реорганизујемо по десети пут... Да ли је то кориснички унос? можда су унели нешто чудно ... крајњи случај? Да ли је АПИ само имао лош дан? Време је да поново проверите њихову страницу статуса... Ово није инжењеринг. То је модерна претпоставка. Био сам на кукицу за функцију чији је мозак био комплетна црна кутија. Грешка # 3: Коришћење нуке да убије лету Тај једноставан АПИ позив био је празан чек, а ми смо их писали као луди. За један од наших интерних алата - само класификовање карте за подршку - користили смо један од великих, општих модела. На крају смо схватили да користимо супер-паметни нуклеар за убијање муве.Много мањи, фино прилагођени, модел отвореног кода - хец, чак и гомила Izjave – bilo bi deset puta brže i stotinu puta jeftinije. Ali u „Funkcijskoj fabrici“, sve što je bilo bitno bilo je da ga izvučemo iz vrata. if/else Део II: Проналажење нашег пута Oko šest meseci, stvari su počele da se raspadaju. Pushing novu funkciju bi slomio staru. Naši troškovi su bili svuda. I iskreno, tim je izgorio od borbe sa požarima. Morali smo da se zaustavimo, udahnemo i zapravo počnemo da inženiramo rešenje. Корак 1: Ми смо покренули "Технички дуг триаге" Прва ствар: нисмо могли да поправимо све одједном. резервисали смо собу за састанке за цело поподне, ставили све 15 АИ функција на табелу и нацртали их на једноставном 2к2 решетку. (Озбиљно, нацртајте ово на белој плочи. То је игра-променљивац. Препоручујем да креирате једноставну слику 2к2 решетке за убацивање овде) 
 
 
 X-Axis: Koliko je to važno za poslovanje? (Niska do Visoka) Y-Axis: Koliko je to tehnički nered? (Nizka do Visoka) To popodne je donelo mnogo jasnosti. 
 
 
 
 Top-Right (High Impact, High Debt): Na primer, chatbot za kupce. Доње-десно (низак утицај, висок дуг): То глупо "забавно чињеница" генератор на екрану пријављивања. одлучили смо да га убије. Druga dva kvadranta: odlučili smo da ih ostavimo same. ako nije slomljena, nemojte je popravljati. Корак 2: Изградили смо централизовани "АИ Гатеваи" Наш први велики пројекат био је да поправимо проблем "превише АПИ-ја".Ми смо изградили једну, једноставну интерну услугу са којом све наше друге апликације разговарају.Овај "прелаз" је сада једина ствар у нашем систему која разговара са спољашњим добављачима АИ. . (Један једноставан дијаграм је савршен овде: [Наша апликација] -> [Наш АИ капија] -> [ОпенАИ, Антхропиц, итд.]) To nam je odmah vratilo moć. 
 
 
 
 Контрола: Можемо да размењујемо провајдера на једном месту без знања било које друге апликације. Штедња: Изградили смо једноставан систем кеширања право у капију. Sanity: Sva naša evidencija, praćenje i upozorenja su sada na jednom, upravljivom mestu. Корак 3: Направили смо "Промпт библиотеку" Изградили смо једноставну библиотеку за њих - то је заправо само табела у бази података, са историјом праћеном у Гит-у - која чува сваки позив који користимо. Сада, наше апликације само питају библиотеку за прави позив пре позива.Ово коначно раздваја "шта рећи" од "како то рећи."Наши менаџери производа сада могу прилагодити и тестирати позиве на садржај свог срца, а не морају да поднесу инжењерску карту да би то урадили. То је о дугој игри Погледајте, притисак да се све "додаје АИ" не нестаје, али имамо избор.Можемо да држимо функције заједно на АПИ-јима које не контролишемо, градимо будућност производа који су скупи и немогући за одржавање. Или можемо радити стварни, понекад спорији, посао. Naše novo pravilo je jednostavno: mi procenjujemo svaku novu funkciju ne samo po tome šta ona može da uradi, već i po njenoj efikasnosti. Решавањем нашег дуга и изградњом ових контролних слојева, престали смо да будемо наручивачи у фабрици. long-term cost of ownership. Игра није само о A. To je o Hajde da prestanemo da hranimo fabriku i počnemo da gradimo stvari koje traju. Коришћење Власништво So, what's the worst AI tech debt you've stumbled into? I want to hear your war stories in the comments.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

Contact Us Today at sales@saigontechnology.com

Drop me a message at 

Read My Stories

Овај аудио је произведен на оригиналном језику приче!

Предуго; Читати

Get Free Unlimited IP Geo Data With IPinfo Lite

Искључио сам 15 АИ функција за 6 месеци и скоро нас је сломио.

About Author

КОМЕНТАРИ

ХАНГ ТАГС

ОВАЈ ЧЛАНАК ЈЕ ПРЕДСТАВЉЕН У

Related Stories

Building the Cloud Future: Sreedevi Velagala's Trek in AWS Architecture

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Building the Cloud Future: Sreedevi Velagala's Trek in AWS Architecture

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps