гурван тоо. Энэ нь таны AI-ийн ажил хийхэд хэрэгтэй бүх зүйл юм

Хэрэв та өөрсдийн үнэ цэнэтэй мэддэггүй бол та AI-ийг мэддэггүй Хэрэв би танд 3 тоо - зөвхөн 3 - таны AI-ийн үр дүнтэй байх болно, эсвэл катастрофалгүй байх болно гэж хэлж чадна уу? Үгүй шинэ архитектур. Үгүй ретренинг. Үгүй Infrastructure Overhaul. Зөвхөн хялбар математик. Математик нь 1950-ээс хойш суралцаж байгаа, хэн нэгнийг шалгахыг хүсэж байна. Эдгээр гурван тоо авч болно: Your Tesla phantom braking for no reason. Таны Tesla Phantom ямар ч шалтгаангүйгээр галзуу. GPT-4 нь ямар ч байдаг нь судлаас нэрлэдэг: Санкцийн хүлээн зөвшөөрсөн адвокатаас санал болгосон. GPT-4 нь ямар ч байдаг нь судлаас нэрлэдэг: Санкцийн хүлээн зөвшөөрсөн адвокатаас санал болгосон. Таны загвар, гурван долоо хоногийн турш боловсруулсан, гайхамшигтай амархан амархан амархан амархан амархан амархан амархан амархан. Таны загвар, гурван долоо хоногийн турш боловсруулсан, гайхамшигтай амархан амархан амархан амархан амархан амархан амархан амархан. Хамгийн сүүлийн үеийн үг юм. The Three Numbers Everyone Ignores Нийт танд тэдний талаар хэлдэггүй. Таны хүрээлэн биш. Таны сургалт биш. Документаци, . Үзүүлэлт нь тогтвортой буюу халюцинатор байх болно. Таны багасгөл нь бодит эсвэл хатуу юм. тэр ч байтугай тэд таны туршилтын ажиллуулж, эсвэл таны хувцас дээр буурцаж болно. тэр ч байтугай тэд таны туршилтын ажиллуулж, эсвэл таны хувцас дээр буурцаж болно. : Таны оптимизатор хуваалцах нь компьютерийн zig-zagging байна уу? Энэ тоо нь таны шатанд "ширгээтэй" түлхүүр юм. Та компьютерийн 90% -ийг богино бодож байлгахын тулд багасгах болно (шигүүрийн багасгыг үзнэ үү) 1. Ажлын тоо κ (λ_max / λ_min) Өндөр к нь каньон гэсэн үг юм. Ажлын тоо κ (λ_max / λ_min) Ажлын тоо κ (λ_max / λ_min) Өндөр к нь каньон гэсэн үг юм. : Таны загварын үнэхээр суралцаж байна уу - эсвэл зүгээр л унших? Цааш унших, та GIF below that explains it better than a whole series of equations. 2. Өргөтгөлийн хэмжээ ε (λ_max) Үнэгүй Өргөтгөлийн хэмжээ ε (λ_max) Өргөтгөлийн хэмжээ ε (λ_max) 3. Хэрэв та өөрийн AI framework-ийн түлхүүр нь таны шилдэг шинэ сүлжээг боловсруулахын тулд хялбар юм гэж итгэлтэй байж болох юм. Та үүнийг хэлсэн байна: : Үнэгүй үнэ цэнэтэй тоо δ (#λ 0 үед та булан дээр байна. Дараа нь доор, та үүнийг харах болно анимацийн график, та одоо ч байтугай хүсэж байгаа асуултуудыг явах болно. Үүнээс гадна - Та үүнийг итгэж, эсвэл биш - Энэ Old Math Нөхцөл Нөхцөл Эдгээр математик 1950-ээс хойш байдаг, тэр ч байтугай нейрон сүлжээг сонсож байсан. 75 жилийн математик ариутгаас шууданга. Үүнээс гадна - одоо, өнөөдөр, Хэрэв та энэ уншиж байгаа бол - PyTorch-д биш, TensorFlow-д биш, JAX-д биш, Keras-д биш, ямар ч стандарт сургалтын хоолой дээр биш, сая доллартай. 3 тоо нь танд бүх зүйлийг хэлэх болно. Зөвхөн харах. Дэлхийн хамгийн том AI лабораториуд? Тэд зөөлөн бөмбөгг харах. Хүргэлзүүлэх. Тэгээд энэ нь инженер гэж нэрлэдэг. OpenAI тэднийг илрүүлэх болно. Google тэднийг олж авах болно. Anthropic тэднийг мэдэж чадахгүй байна. Хэн ч шалгах болно. OpenAI тэднийг илрүүлэх болно. Google тэднийг олж авах болно. Anthropic тэднийг мэдэж чадахгүй байна. Хэн ч шалгах болно. Хэрэв та үүнийг татах болно. Гэхдээ уншиж үзнэ үү, Та одоо ч бас хамгийн шилдэг хэсэггүй байна. AI-ийн хязгаарлагдмал хуудсуудтай? Энд миний хуудсууд дээр дэлгэрэнгүй олж авах AI-ийн хязгаарлагдмал хуудсуудтай? Энд миний хуудсууд дээр дэлгэрэнгүй олж авах Түлхүүр үг: The Three Numbers Everyone Misses Тэгэхээр та κ, ε, и δ-ийг мэдэгдэж байна. Бүх зүйлсийг урьдчилан сэргийлэх гурван тоо. Одоо та нартай: Тэд энд байна уу? Таны дэлгэц дээргүй. Таны дневник дээргүй. Триллиондоллар AI салбарт ямар ч газар биш. Эдгээр гурван тоо нь теори юм. Тэд байдаг байх ёстой дијагностик тавилга юм ... Гэхдээ энэ нь биш юм. Үүнээс гадна, хамгийн алдартай AI frameworks - PyTorch, TensorFlow, JAX, Keras - танд үнэхээр танд санал болгож байна: Loss value ✓ Градийн насос ✓ Сургалтын түвшин ✓ Энэ нь энэ юм. Энэ нь бүх dashboard юм. Төв тоо — гэхдээ зөв гурван биш юм. Үнэгүй κ (хэвийн тоо). Үнэгүй ε (eigenvalue магнитууд). Үнэгүй δ (негатив eigenvalue count). κ κ ε ε δ δ Тэгээд энэ нь зүгээр л таны framework биш юм. OpenAI-ийн дотоодын хэрэгсэл? Тавтай морилно уу. Google-ийн инфраструктур? Тавтай морилно уу. Anthropic-ийн сургалтын хоолой? Тавтай морилно уу. Бүх аж ахуйн нэгж нь тавтай морилно уу. Training AI today is like flying a 747 with a speedometer, a compass, and vibes. Өнөөдөр AI-ийн сургалт нь хурдметр, компас, вибратортай 747-ийг нисдэг шиг байна. Өнөөдөр AI-ийн сургалт нь хурдметр, компас, вибратортай 747-ийг нисдэг шиг байна. Үнэгүй - энэ нь хэзээ ч хэзээ ч хэзээ ч тавтай морилно уу! гэхэд Энэ загвар нь бодит шийдлийг олж авах вэ, эсвэл зүгээр л шууданг хуваалцаж, энэ нь хэзээ ч ялгаж чадахгүй байна? Үнэндээ eigenvalues танд хэлэх болно. Таны дуртай AI framework-ийн таслагч нь биш болно. Зураг 2b энэ нь ягаан тухтай байна: Эдгээр түүнээс дээш тоо Эдүүлбэр . Энэ нь таны алдартай үзэсгэлэнгийн бүрэн хатуу ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг ширхэг. Тэд Hessian гэж нэрлэгддэг зүйлс дотор амьдрадаг Хоёр дахь derivative матриц таны хатуу функцийг And here’s the absurd part: the Hessian is fully computable. It’s sitting right there, screaming diagnostic data, and nobody’s looking at it. Тэгээд энд тавтай морилно уу: Hessian нь бүрэн тоног төхөөрөмж юм. Энэ нь тавтай морилно уу, дијагностик өгөгдөл хуваалцах, ямар ч хэн ч үүнийг харж байна. Here’s how it works: Look at the two boxes in the middle of the figure. On the left: what PyTorch shows you. Loss looks good. Gradient near zero. Learning rate set. Green light. Ship it. Дараа нь: What Нөхцөл Үнэгүй дэлгэрэнгүй. Урт хугацааны тоо хавтгай дамжуулан. Зурагны харьцуулалт. Хоёр негатив eigenvalues. Та хамгийн бага биш юм: κ ε δ you’re stuck at a saddle point pretending to be done κ ε δ Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр Same numbers. Same moment. Opposite conclusions. Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр » Эдүүлбэр OpenAI doesn’t compute this. Google doesn’t compute this. Нь нэг нь хэд хэдэн зуун-төрт зуун-төрт гарын үсэг GPU-г ажиллуулж байгаа ч eigenvalues шалгана. Нь нэг нь хэд хэдэн зуун-төрт зуун-төрт гарын үсэг GPU-г ажиллуулж байгаа ч eigenvalues шалгана. Тэд шатанд шатанд үздэг бөгөөд та зөв харуулж байна ... намайг хайж байна! Гэсэн хэдий ч, Hessian нь маш хүчтэй байна! Энэ нь Google-ийн хэн нэг нь туслах юм. Hessian нь n×n. Миллиардын параметр загвар, энэ нь миллиардын тэрбум удаа юм. Та үүнийг тооцох болно. Энэ нь математик алдартай байна! Hessian нь n×n. Миллиардын параметр загвар, энэ нь миллиардын тэрбум удаа юм. Та үүнийг тооцох болно. Энэ нь математик алдартай байна! Correct. And completely irrelevant. You don’t need the full matrix. You never did. Унгарийн физик нэр — Өнгөрсөн үед "компьютер" нь вакуум хоолой, хязгаарлагдмал хөвгүүдтэй өрөө гэж нэрлэдэг. Түүний арга хэрэгсэл нь итератив матрик-вектор бүтээгдэхүүн ашиглан доминант eigenvalues ашигладаг. Complexity: . Basically free compared to a single forward pass. Cornelius Lanczos figured this out in 1950 O(n) per iteration Cornelius Lanczos figured this out in 1950 Хамгийн сүүлийн үеийн үр дүнд, бид Hutchinson-ийн хязгаарлагдмал тооцоологч, stochastic Lanczos хавтгай, хязгаарлагдмал SVD байна. Та спектрал хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу хатуу. Tools like Энэ нь ImageNet масштаб дээр ажилладаг. Өнөөдөр. Одоо. PyHessian PyHessian Тиймээс энэ нь PyTorch-д биш вэ? Хэрэв энэ нь TensorFlow-д биш вэ? Хэрэв энэ нь JAX-д биш вэ? So why isn’t this in PyTorch? Why isn’t it in TensorFlow? Why isn’t it in JAX? So why isn’t this in PyTorch? Why isn’t it in TensorFlow? Why isn’t it in JAX? Because the people who understand spectral theory are in math departments, writing papers nobody reads. The people building frameworks are shipping features that look good in demos. And the people training models are too busy babysitting loss curves to ask why they’re babysitting loss curves. Математик байдаг. Инженерийн байдаг. Тэдний холбох хүсэл? Үнэндээ биш. Seventy-five years. Still waiting… What These Numbers Actually Tell You Let’s make this practical, concrete, and — above all — visual, so you can build the right mathematical intuitions. Энэ нь практик, ялангуяа - визуал, та зөв математик интуицийг үүсгэх болно. The Condition Number Disaster The condition number κ (kappa) = λ_max / λ_min controls how hard your optimization problem actually is. Here’s what nobody tells you: gradient descent convergence scales as (κ-1)/(κ+1) per iteration. Энд ямар ч танд хэлдэг юм: Gradient нисэх конвергенц түлхүүр (к-1) / (к+1) (к-1) / (к+1) per iteration. Зохиогчийн эрх: κ = 100? Хязгаарлагдмал нь 100 iterations нь таны алдаа дундаж. κ = 10000? Өнгөрсөн үйл явц нь 10k iterations. And κ = 10000 is common in practice. Not pathological. Not rare. Tuesday. Өндөр к Үнэндээ ? feel Зөвлөгөөний цайрдсан цайрдсан цайрдсан цайрдсан цайрдсан цайрдсан цайрдсан цайрдсан Гэхдээ өндөр κ нь таны долинд ширээний хөнгөн цагааны хавтан юм: хавтгай урт хавтгай, хавтгай ч харуулж байна. Таны мармэлийн доош хавтгайгүй. Энэ нь хавтгай дөрвөлжин хавтгай дөрвөлжин хавтгай дөрвөлжин хавтгай дөрвөлжин хавтгай дөрвөлжин. Энэ нь таны gradient юм. Калькулятор гэж нэрлэдэг тавтай морилно уу: найдвартай нисэх онгоц. Problem is, “steepest downhill” aims at the Үүнээс гадна, шийдэл нь доор доошгүй. Canyon хавтан Хязгаар нь 0.0847, дараа нь 0.0846, дараа нь 0.0847 нь? Та суралцаж суралцаж хурд. ямар ч. Та ML-ийн оюутнуудад гуулин хавтан олох болно. ямар ч. Those training runs that plateau for hours? Энэ нь өндөр к. Таны оптимизатор богино биш юм. Энэ нь зөв та хүссэн зүйл хийж байна. Та хүссэн зүйл нь зөвхөн геометрийн алдартай юм. Та компьютерийн борлуулалтын геометрийн боодол байна, таны framework-ийг мэдэгдэхыг хүсч байна. The fix? Preconditioning. Second-order methods. Adaptive optimizers that implicitly estimate curvature. The math exists. It’s been in textbooks since the 1960s. Харин эхлэн, та мэдэж байх ёстой κ нь асуудал юм. Your dashboard won’t tell you. So you’ll never ask. And your compute bill keeps climbing. Доорх зургийг харьцуулахад юу болохыг харуулж байна. Үүнээс гадна эхлэх томоохон. Үүнээс гадна очих. Нэг арга нь ~100 iterations байх ёстой. Өнгөрсөн нь ~10,000 байх ёстой. while your GPU burns money. Sharp vs. Flat: Generalization Зохиогчийн эрх Одоо бид — өөрчлөн үнэ цэнэтэй ихэвчлэн. ε (epsilon) This number answers the question every ML engineer secretly dreads: Did your model actually learn anything, or did it just memorize the test? Эдгээр тоо нь бүх ML инженерийн хязгаарлагдмал асуултанд хариу байна: Did your model actually learn anything, or did it just memorize the test? Picture your loss landscape as terrain. A ширхэг уралдаас байна - Та байлгаж болно, өндөрт хэзээ ч өөрчилж болно. Энэ нь ногоон ширхэг юм - нэг дуртай шаг, та танд тавтай морилно уу. flat minimum sharp minimum Small ε = flat minimum = good news. ε нь жижиг үед таны загвар энэ өргөн долийг олж байна. Бүтээгдэхүүний өгөгдөл нь сургалтын өгөгдөлээс амархан өөр байдаг: хэрэглэгчид гайхамшигтай зүйлсийг шилжих, гэрэлтүүлэг өөрчилж, акцентыг өөрчилж, таны загвар нь хатуу. Хамгийн ойр. Би үүнийг олж авсан. That’s a generalization. That’s what you’re paying for. Дараагийн GIF нь энэ нь геометрийн харьцуулахад юу гэж үздэг: Now flip the script. Хэрэв ε маш их юм үед юу хийх вэ? Хэрэв таны eigenvalues том тоо зочилж байгаа үед? . Training loss looks perfect. Validation is “best run ever.” Well, when ε is large , your model has squeezed itself into a tiny, sharp crevice Well, when ε is Өндөр large , таны загвар нь жижиг, ягаан тугалга хавхлагатай Then real data arrives. Slightly different wording. Slightly different images. Slightly different anything. Энэ загвар нь . perform a bit worse It blows up: Confidence scores go crazy Predictions turn random Таны алдартай лог систем нь 2 цаг дээр буцаж болно. That’s a sharp minimum in action. The walls are so steep that the tiniest shift sends the loss rocketing. Your model wasn’t robust. It was . brittle and faking it Дараагийн GIF-ийг янз бүрийн харьцуулахад харуулж байна. Үүнээс гадна хоризонтал дамжуулалт. Үүнээс гадна янз бүрийн үр дүнг. Press enter or click to view image in full size As you see, this is not philosophy. This is geometry you can measure. Таны загварууд бенчмарк хамарсан, үйлдвэрлэлд үхсэн? Энэ нь нарийн багатай олж авсан. Eigenvalues танд хэлсэн байх болно ... Гэхдээ хэн ч шалгахгүй. Saddle Points: Хязгааргүй Хувцаслагч Одоогийн — the negative eigenvalue count, #(λ < 0). This one’s sneaky. This one lies to your face. δ (delta) Your gradient hits zero. Your loss curve goes flat. Таны framework хэвлэх: ** “converged.” \ Та хялбар. Хэрэв та хамгийн бага алдаатай биш юм. You’re at a saddle point ! 💀 You’re at a Тавтай морилно уу Тавтай морилно уу A mountain pass where the terrain curves up in some directions and down in others. But you might say: Үгүй, дуртай уншигч. Үгүй. Энэ нь зүгээр л танд тэнцвэртэй байдаг гэж хэлдэг, та ямар ч хэрэглэгддэг зүйлийг олж авсан биш. PyTorch shows my gradient is zero — shouldn’t that mean the optimization is done? How common are saddle points? Математик хийх болно. At any critical point, you can think of each eigenvalue as having a coin-flip chance of being positive or negative. For a true minimum, you need тэдний үр дүнтэй. Хязгаарлагдмал чадварыг? Таны параметр хэмжээний эрчим хүчээс дээш. all For a million parameters, that’s 1/ 2^(10⁶). Хэрэв та хурдасгаж байгаа үед лотерейн шагнал авах хамгийн сайн шансуудтай бөгөөд хавтан танд ногоон тулгардаг. Өндөр хэмжээгээр, бараг бүх чухал зүйл нь үр дүнтэй тавтай мод юм. True minima are statistical miracles. Өнгөрсөн мэдээ: ихэнх саад тоног төхөөрөмж нь нестабиль байдаг. SGD-ийн байгалийн шугам нь ихэвчлэн эцэст нь танд явах болно. The bad news: “eventually” might be three weeks of wasted compute. Degenerate saddles — where eigenvalues hover near zero — create plateaus where the gradient whispers instead of speaks. Loss goes nowhere. You’re stuck, but you don’t know if you’re stuck or just slow. δ > 0 танд хурдан хэлэх болно. Нэг тоо. Садл эсвэлгүй. Гэхдээ таны framework нь энэ нь тооцоолж чадахгүй. would tell you instantly. One number. Saddle or not. But your framework doesn’t compute it. δ > 0 Доорх GIF нь энэ хатуу хэрхэн харуулж байна: The Gradient Flow Time Bomb Oh, you thought we were done? It gets worse. Таны нейрон сүлжээ нь нэг функц биш юм. Энэ нь функц нь цуврал дараа цуврал дараа цуврал дараа нь цуврал юм. Тэгээд урсгал нь сургалтын үед бүх нэг дамжуулан унадаг байх ёстой. Гар утасны тоглолтонд шиг, бүх хүн маш хялбар чичийг чичийг чичийг хуваалцах болно. Each layer has a Jacobian matrix — the matrix of partial derivatives that governs how signals propagate. . The singular values of these Jacobians determine whether your gradients survive the journey or die along the way The singular values of these Jacobians determine whether your gradients survive the journey or die along the way The gradient gets amplified at each layer. By the time it reaches the early layers, it’s not a gradient anymore — it’s a bomb. Exploding gradients. Your weights go to infinity. Training crashes. NaN city. Singular values > 1: The opposite disaster. The gradient gets squashed at each layer. By the time it reaches the early layers, it’s a rounding error. Vanishing gradients. Your early layers stop learning. They’re frozen while the rest of the network pretends to train. Singular values < 1: Goldilocks zone. Gradients flow cleanly from end to end. Every layer learns. This is why orthogonal initialization works. This is why spectral normalization exists. Singular values ≈ 1: Гэхдээ энд зүйл юм: Эдгээр техникиуд ачаалал олж авсан бөгөөд утас тусламжтай болгон хэрэглэдэг. Якобийн спектр нь сургалтын үед ямар ч хэрэглэдэг. Хэдийгээр нэгтгэсэн үнэ цэнэсийг харахгүй. Та мэдэж болох диагноз: , зүгээр л ямар ч комерцийн бүтэцтэй байдаггүй. Хавтгай 47 таны gradient дамжуулах болно Layer 47 is about to kill your gradient flow 😁 Таны сүлжээ нь интернетийн харьцуулалттай байж болох бөгөөд таслагч ямар ч харуулж байна. See it for yourself: And Here You Go: Таны AI Framework-ийн Эдүүлбэр Энэ нь алдартай AI Framework-ийн танд харуулж байх ёстой тавцан юм. Математик алдартай сургалтын хоолой нь хяналтын жагсаалт дээр хөнгөн спектрал дијагностик тооцоолж, тэд дээр үйл ажиллагаа явуулж болно: Hessian усны тоо нь хязгаарлагдмал → урьдчилан суурилсан арга зам руу шилжих. → apply spectral normalization. Якобийн нэгтгэлийн үнэ цэнэ нь 1-ээс удаан → you’re at a saddle, perturb to escape. Negative eigenvalues appear Hessian усны тоо хязгаарлагдмал байна Якобийн нэгтгэлийн үнэ цэнэ нь 1-ээс удаан Negative eigenvalues appear Одоогийн байдлаар, ямар ч арилжааны AI framework нь танд эдгээр үндсэн eigenvalue predictors санал болгож байна. Үнэндээ, та суралцах түвшинд гарын авлагатай бөгөөд... Why Nobody Fixed This 3 Загвар : Эдгээр талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаархи талаар Scaling obscures mathematical sins. The people who understand spectral theory work in applied math departments solving inverse problems. The people building AI frameworks took optimization and statistics. The Venn diagram overlap is nearly empty. Disciplinary silos. Дээрх тохиромжтой спектрал хяналтын хэрэгцээ нь инфраструктур ямар ч байтугай бий болгох хүсэж байна. Бүх хүмүүс ашигтай байх болно. Бүх хүмүүс төлөх хүсдэггүй. Abstraction debt. The Bill Comes Due Энд ямар ч үйлдвэрлэлийн бүтэцтэй байна: The industry has invested $100 billion in scaling AI. Математик суурилуудгүй байна. Every unexplained training failure, every generalization anomaly, every model that worked in the lab and died in production — these are symptoms of mathematical pathologies that your tools cannot diagnose. What Can You Do Now To Go Even Beyond Those Big AI Companies? Start here: for your specific architecture Learn what Hessian eigenvalues mean during training — even crude estimates help Monitor condition numbers Та борлуулах өмнө зузаан шалгаж - PyHessian байдаг, энэ нь ашиглах Хязгаарлагдмал хавтгай дээр бүх зүйлийг асуултанд - Та тавтай морилно уу, хамгийн бага биш The math exists. It’s been waiting since 1950. Нэг асуултууд нь та дараагийн үйлдвэрлэлийн алдаа нь танд хэцүү аргаар суралцах өмнө энэ нь мэдэх болно. Curious about the hidden side of AI? Discover more on my page here Curious about the hidden side of AI? Discover more on my page here