Per a nosaltres "dinosaures" que van créixer en el terminal, la revolució de la IA moderna s'ha sentit una mica ... desconnectat. Passem els nostres dies en un entorn CLI d'alt rendiment, però cada vegada que necessitem l'ajuda d'un LLM, estem obligats a canviar de context a un navegador, col·locar el codi en una finestra de xat, i esperem que el cicle de "copi-pasta" no trenqui el nostre flux. Construïm És un CLI local-first, centrat en la privacitat que porta la visió i la comprensió semàntica directament a la canonada d'Unix. Cap API, cap fuita de dades, només un cervell de paràmetres 0.8B que funciona en el vostre maquinari local. qsh Els tres grans: visió, filtre i comandament no és només un chatbot; és una extensió de la filosofia coreutils. tracta el LLM com un filtre intel·ligent. qsh La visió semàntica: La imatge PipePowered per processador unificat de Qwen 3.5-0.8B, En comptes de passar manualment per una carpeta de captures de pantalla per trobar un error, ara podeu conduir les vostres imatges directament a una consulta: qsh # Find every image with a cat and open it automatically
ls examples/*.jpg | qsh vision "is there a cat?" | xargs open
 El model avalua la consulta per a cada imatge, imprimeix el nom del fitxer només si la resposta és "SÍ", i deixa que el següent tub tracti el resultat. El filtre semàntic: agafar el significat estàndard és excel·lent per trobar cordes, però és inútil per trobar El El comandament avalua l'entrada estàndard contra una consulta de llenguatge natural: grep Intenció filter # Filter a messy TODO list by context
cat notes.txt | qsh filter "What is due tomorrow?"
 El LLM retorna un "Sí" o "No", que li permet estirar els registres o notes amb lògica a nivell humà. Modalitat de comandament: Autocomplete Tots hem estat allà: comets un error en un repositori de Git i no pots recordar la sintaxi exacta per cancel·lar els tres últims compromisos sense perdre treball. qsh "Undo my last 3 git commits but keep the changes"
 Transforma la teva intenció en un Bash vàlid i executable, però no només l'executa cegament... qsh Seguretat en primer lloc: Guardes deterministes "Però la seguretat muh!" ja puc sentir els Linux SysAdmins cridant. Per resoldre això, Utilitza a : qsh Hybrid Safety Model 
 
 
 Escanys deterministes: El binari Rust utilitza un matxador de patró d'alt rendiment (definit a safety.rs) per escanejar la sortida de la IA per a cadenes perilloses com rm -rf /, mkfs o dd. Revisió interactiva: Si un comandament sembla perillós, està marcat amb un text vermell brillant. L'usuari es presenta amb un procés de confirmació de dos passos, oferint una oportunitat per a una explicació addicional o un avortament dur. És el millor dels dos mons: potència probabilística del LLM i seguretat determinista de Rust. L'arquitectura: Rust i Python Una pregunta comuna que tinc és: Vaig triar una arquitectura híbrida per jugar als punts forts de cadascuna: "How does a system language like Rust talk to a machine learning language like Python without lag?" Gestiona l'I/O ràpid, la base de dades d'historial SQLite, la lògica de seguretat i la interfície CLI. Rust : Gestió de l'aixecament pesat de I el La biblioteca . M'agradaria utilitzar Rust per a tot, però el suport per a les últimes arquitectures Qwen 3.5 no està completament implementat en el Rust Hugging Face La Biblioteca - ( Fins llavors, utilitzem un pont Python d'alta velocitat. La instal·lació és un simple uniliner que estableix un entorn virtual local ( Per mantenir el sistema net: Python torch transformers candle so I submitted a Pull Request to fix that! https://github.com/huggingface/candle/pull/3396 qenv curl -sSL https://raw.githubusercontent.com/woodRock/qsh/main/setup.sh | sh
 El Manifest “Local-First” Per què no només utilitzar l'API OpenAI o Claude? us donaré tres raons: 
 
 
 
 Zero-Data Leakage: El vostre historial de terminal i els camins de fitxers locals mai deixen la vostra màquina.Dades les últimes notícies sobre empreses d'IA i contractes governamentals, realment voleu enviar el vostre context complet del sistema de fitxers a un servidor de núvol? Utilitat fora de línia: qsh funciona en un soterrani, en un avió o en una zona de guerra. Obté un temps de funcionament consistent del 100% sense preocupar-se dels límits de tarifa o de la sobrecàrrega del servidor. El 0.8B Sweet Spot: Qwen 3.5-0.8B és prou petit per funcionar en un ordinador portàtil estàndard (fins i tot sense una GPU beefy) però prou "intel·ligent" per dominar la sintaxi de Bash. Construït per a l'últim: estabilitat i memòria Perquè una eina sigui realment "útil", ha de ser fiable. 
 
 
 SQLite Memory:qsh no veu comandes aïllats. Emmagatzema el vostre historial de sessió en una base de dades local SQLite. Això permet fer seguiments conscients del context com: qsh "Quin era aquest arxiu que acabo d'enumerar?" Hem implementat una suite de proves d'integració completa i un pipeline GitHub Actions CI per assegurar-nos que les salvaguardes de lògica semàntica i de seguretat romanen intactes a mesura que creix l'eina. 6 Què és el següent? L'objectiu és que finalment es traslladi la inferència totalment a Rust una vegada que el L'ecosistema s'aconsegueix, eliminant totalment la dependència de Python. Fins llavors, Estem aquí per donar als vostres tubs de Unix el cervell que han estat esperant.   candle qsh Check out the project on GitHub: https://github.com/woodrock/qsh https://github.com/woodrock/qsh

This post provides insights into new product. 

This story contains new, firsthand information uncovered by the writer.

2022 - HackerNoon Contributor of the Year - Nintendo

Read My Stories

Nominated for 2022 - HackerNoon Contributor of the Year - Nintendo

Aquest àudio és produït a l'idioma original de la història!

Més enllà del grep: donar un cervell a la canonada d'Unix amb Qsh

About Author

COMENTARIS

Etiquetes penjant

AQUEST ARTICLE VA SER PRESENTAT A

Related Stories

Startups of The Year: Meet the Business Industry

On Taxes

Startups of The Year: Meet the Education Industry

Meet Filestack: HackerNoon Company of the Week

Startups of The Year: Meet the Business Industry

On Taxes

Startups of The Year: Meet the Education Industry

Meet Filestack: HackerNoon Company of the Week

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps