나는 혼돈을 구조로 만드는 AI 응용 프로그램을 구축하는 데 매일을 보낸다.나는 혼란스러운 데이터 세트, 약간의 비즈니스 논리, 그리고 충분히 강력한 모델을주고, 나는 소음에서 신호를 추출 할 수있다. 그래서 큰 언어 모델이 정말로 이해하는 것을 이해하고 싶었을 때, 나는 모든 엔지니어가 할 수있는 것을했다 : 나는 실험을 실행했다. LLM에 들어가서 그들이 의미하는 것을 분석하도록 요청했습니다. 詩人 결과는 기술적으로 완벽했다.모델은 리마 스키마를 식별하고, 비유를 설명하고, 반대 개념 사이의 구조적 긴장을 매핑했습니다. 그러나 그것이 작동하는 것을보고, 나는 범주 오류를 저지른 것을 깨달았습니다. 모델이 볼 수 없는 것 "Dark Pillar Growth / Shadow Lack"와 같은 행을 취하십시오. "LLM"는 이러한 단어가 존재와 부재, 성장 및 손실의 조립을 만드는 것을 말할 수 있습니다. 그것은 훈련 데이터에 비슷한 패턴을 참조 할 수 있습니다. 이 문장이 인간의 신경계에서 창조하는 조용한 불편함과 함께 앉아 있을 수는 없다.그 의미는 단어들 자체에 있지 않다.그것은 그들이 당신 안에서 창조하는 공감 속에 있다. What it cannot do is feel the specific weight of growth that is shadowed by loss 詩는 디코딩을 요구하지 않았다.그들은 경험을 요구했다. 실제로 중요한 문제는 이것은 단지 詩에 관한 것이 아닙니다.그것은 우리가 오늘날의 전반적인 llm 통합의 세계에서 구축 한 제품에 관한 것입니다. 내가 그 詩에 접근하는 방식과 똑같은 방식으로 사용자 문제에 접근 한 적이 몇 번이나 있습니까? 추출, 측정, 로그 및 대시보드에 제공 할 수있는 것을 찾고 있습니다. 우리는 사용자 행동을 해독하는 것에 집착하게됩니다.그리고 그 과정에서 우리는 사용자 경험에 질식합니다. 제품에 대한 가장 중요한 진실은 A/B 테스트 결과에서 찾을 수 없습니다. 그들은 측정에 저항하는 것들에서 찾을 수 있습니다 : 혼란스러운 인터페이스를 탐색하는 미묘한 좌절감. 무언가가 예상보다 직관적으로 작동할 때 예상치 못한 즐거움. 이것들은 데이터 포인트가 아닙니다.그들은 인간의 경험입니다.우리의 최고의 도구는 종종 그들에게 눈이 멀어집니다. 이것이 우리가 건설하는 것을 의미하는 것은 무엇입니까? 우리가 구축하고있는 AI 시스템은 패턴 인식과 분석에서 수치적으로 향상됩니다.그들은 논리적이고 데이터 기반 프로세스로 분할 될 수있는 모든 작업을 지배 할 것입니다. 그러나이 감소에 저항하는 것들 : 직감, 의미, 느끼는 신뢰 감각; 그들은 깊이 인간으로 남아 있습니다. 우리의 작업은 단순히 더 강력한 디코더를 구축하는 것이 아닙니다. 그것은 데이터를 넘어 무엇이 있는지 인식하는 지혜를 갖는 것입니다. 중요한 모든 것이 디코딩될 수는 없으며, 어떤 것들은 살아야 한다. 그리고 그것은 우리가 사람들에게 살기를 요청하는 제품을 포함합니다.
