Para nós "dinosauros" que medraron no terminal, a revolución moderna de IA sentiuse un pouco ... desconectado. Pasamos os nosos días nun ambiente CLI de alto rendemento, pero cada vez que necesitamos a axuda dun LLM, estamos obrigados a cambiar de contexto a un navegador, pegar o código nunha fiestra de chat, e esperamos que o ciclo de "copia-pasta" non rompa o noso fluxo. Construíndo É un CLI local primeiro, centrado na privacidade que trae visión e comprensión semántica directamente ao tubo Unix. sen APIs, sen fuga de datos, só un cerebro de parámetro 0.8B que funciona no seu hardware local. qsh Os tres grandes: visión, filtro e mando non é só un chatbot; é unha extensión da filosofía coreutils. Trata o LLM como un filtro intelixente. qsh Unha visión semántica: A imaxe PipePowered polo procesador unificado de Qwen 3.5-0.8B, Pode analizar funcións visuais xunto ao texto.En lugar de percorrer manualmente unha carpeta de capturas de pantalla para atopar un erro, agora pode picar as súas imaxes directamente nunha consulta: qsh # Find every image with a cat and open it automatically
ls examples/*.jpg | qsh vision "is there a cat?" | xargs open
 O modelo avalía a consulta para cada imaxe, imprime o nome do ficheiro só se a resposta é "SI" e deixa que o seguinte tubo xestione o resultado. O filtro semántico: Atope o significado estándar é bo para atopar cordas, pero é inútil para atopar Os O comando avalía a entrada estándar fronte a unha consulta de lingua natural: grep Intencións filter # Filter a messy TODO list by context
cat notes.txt | qsh filter "What is due tomorrow?"
 O LLM devolve un "Si" ou "Non", permitíndolle pasar por rexistros ou notas con lóxica a nivel humano. Modo de comandante: Autocomplete con tecnoloxía AI Todos estivemos alí: cometemos un erro nun repositorio de Git e non podemos lembrar a sintaxe exacta para anular os últimos tres comités sen perder o traballo. qsh "Undo my last 3 git commits but keep the changes"
 traduce a súa intención en Bash válido e executable, pero non só a executa cegamente... qsh Seguridade Primeiro: Gardiáns Deterministas "Pero seguridade muh!" Xa podo oír os Linux SysAdmins berrar. Dar a un AI acceso a unha casca é inherentemente arriscado. Para solucionar isto, Utilización a : qsh Hybrid Safety Model 
 
 
 Escáneres deterministas: O binario Rust usa un correspondente de patróns de alto rendemento (definido en safety.rs) para escanear a saída da IA para cadeas perigosas como rm -rf /, mkfs ou dd. Revisión interactiva: Se un comando parece perigoso, está marcado con texto vermello brillante.O usuario preséntase cun proceso de confirmación en dous pasos, ofrecendo unha oportunidade para unha explicación adicional ou un aborto duro. É o mellor de ambos os mundos: poder probabilístico do LLM e seguridade determinista de Rust. A arquitectura: Rust e Python? Unha pregunta común que teño é: Eu escollín unha arquitectura híbrida para xogar cos puntos fortes de cada un: "How does a system language like Rust talk to a machine learning language like Python without lag?" Xestiona o I/O rápido, a base de datos de historial SQLite, a lóxica de seguridade e a interface CLI. Rust : Xestiona o levantamento pesado de e o Unha biblioteca. Gustaríame usar Rust para todo, pero o soporte para as últimas arquitecturas Qwen 3.5 non está totalmente implementado no Rust Hugging Face A biblioteca - ( Ata entón, usamos unha ponte Python de alta velocidade. A instalación é unha simple liña única que establece un ambiente virtual local ( Para manter o seu sistema limpo: Python torch transformers candle so I submitted a Pull Request to fix that! https://github.com/huggingface/candle/pull/3396 qenv curl -sSL https://raw.githubusercontent.com/woodRock/qsh/main/setup.sh | sh
 O Manifesto “Primeiro Local” Por que non usar só a API OpenAI ou Claude? vou darlle tres razóns: 
 
 
 
 Zero-Data Leakage: O teu historial terminal e os camiños de ficheiros locais nunca deixan a túa máquina.Dada a recente noticia sobre empresas de IA e contratos gobernamentais, realmente queres enviar o teu contexto completo do sistema de ficheiros a un servidor de nube? Utilidade fóra de liña: qsh funciona nun sótano, nun avión ou nunha zona de guerra. Obteña un tempo de operación consistente 100% sen se preocupar de límites de tarifas ou sobrecargas de servidor. O 0.8B Sweet Spot: Qwen 3.5-0.8B é o suficientemente pequeno como para funcionar nun portátil estándar (mesmo sen unha GPU beefy) pero "intelixente" o suficiente como para dominar a sintaxe de Bash. Construído para o último: estabilidade e memoria Para que unha ferramenta sexa realmente "útil", ten que ser fiable. 
 
 
 SQLite Memory:qsh non ve comandos en illamento. Almacena o seu historial de sesión nunha base de datos SQLite local. Isto permite seguimentos conscientes do contexto como: qsh "Que foi ese ficheiro que acabo de listar?" Implementamos un conxunto completo de probas de integración e un gasoduto GitHub Actions CI para garantir que as gardas de lóxica semántica e de seguridade permanezan intactas a medida que a ferramenta crece. 6 ¿Que é o seguinte? O obxectivo é finalmente mover a inferencia enteiramente en Rust unha vez que o O ecosistema captura, eliminando completamente a dependencia de Python. ata entón, está aquí para darlles aos seus tubos de Unix o cerebro que están esperando.   candle qsh Check out the project on GitHub: https://github.com/woodrock/qsh https://github.com/woodrock/qsh

This post provides insights into new product. 

This story contains new, firsthand information uncovered by the writer.

2022 - HackerNoon Contributor of the Year - Nintendo

Read My Stories

Nominated for 2022 - HackerNoon Contributor of the Year - Nintendo

Este audio está producido na lingua orixinal da historia!

Beyond Grep: Dando o tubo de Unix un cerebro con Qsh

About Author

COMENTARIOS

Etiquetas colgantes

ESTE ARTIGO FOI PRESENTADO EN

Related Stories

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

HackerNoon Decoded 2024: Celebrating Our Society Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

HackerNoon Decoded 2024: Celebrating Our Tech Stories Community!

HackerNoon Decoded 2024: Celebrating Our Writing Community!

HackerNoon Decoded 2024: Celebrating Our Society Community!

HackerNoon Decoded 2024: Celebrating Our Management Community!

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps