AI PRIVAT ON-PREMISE
AI privat on-premise pentru companii
Un asistent AI care rulează în rețeaua firmei, pe serverele dumneavoastră sau pe un echipament dedicat, nu pe internet. Răspunde în limba română din datele firmei, iar întrebările și răspunsurile rămân în rețeaua internă.
Pronet Design, firmă de dezvoltare software din Sibiu, construiește din 2017 aplicații și integrări pentru firme din România, inclusiv integrări cu Priority ERP, SeniorERP și Nexus ERP.
AI-ul public trimite datele în afara firmei. Un AI privat le păstrează în rețeaua dumneavoastră.
Angajații folosesc deja asistenți AI publici, iar o parte din ce scriu acolo sunt date ale companiei: prețuri, clienți, contracte. Interdicțiile se respectă greu. Un asistent privat le dă oamenilor unealta, fără ca datele să plece din firmă.
Ce poate face un LLM local în firma dumneavoastră
Comenzi, livrări și AWB-uri, necesarul de achiziții, comenzi la furnizori, prețuri, stocuri, clienți și furnizori. Puneți întrebări normale, în română. Fiecare răspuns arată de unde vine informația, de exemplu numărul comenzii, și vine din datele firmei, nu din cunoștințele generale ale modelului.
Doar citește
În forma descrisă aici, asistentul nu modifică nimic: nu scrie în aplicație și nu scrie în ERP. Orice operațiune rămâne a omului.
Nu răspunde în afara subiectului
La întrebări care nu țin de datele companiei, refuză. Când nu are informația, spune asta.
Se leagă de ERP-ul existent
Asistentul citește datele prin platforma deja conectată la ERP, deci nu schimbați sistemul în care lucrați.
Aveți nevoie de agenți care pregătesc comenzi sau verifică documente? Vedeți Agenți și automatizări AI →
Studiu de caz: asistent AI local pentru o companie de distribuție din România
Pentru o companie de distribuție din România am construit o platformă de achiziții și logistică conectată la ERP-ul companiei. Peste ea rulează un asistent AI privat, folosit de aproximativ 40 de oameni.
- Echipament: NVIDIA DGX Spark, un calculator compact de birou proiectat pentru inteligență artificială.
- Model: Gemma, un model deschis publicat de Google. Este descărcat și rulează local, fără nicio legătură cu serviciile Google.
- Izolare: echipamentul nu are acces la internet și comunică doar cu platforma companiei.
- Acces: intrarea pe echipament se face cu cheie, iar drepturile depline cer un cod suplimentar de pe telefon.
- Ce face: răspunde în chatul din platformă din datele companiei, doar în citire, cu drepturile fiecărui utilizator și cu sursa fiecărui răspuns.
- Documente de la furnizori: pe același echipament rulează un cititor de documente care preia facturile și avizele furnizorilor (PDF sau scanate), extrage furnizorul, numărul, data, articolele, cantitățile și prețurile și le compară cu comanda la furnizor. Diferențele, de exemplu o cantitate mai mică sau un preț diferit, apar marcate, iar omul verifică și aprobă.
Pe ce rulează: serverele dumneavoastră sau un echipament dedicat
Un LLM local are nevoie de plăci video (GPU) și de memorie suficientă pentru modelul ales. Dimensionarea depinde în primul rând de câți oameni îl folosesc în același timp și de cât de multe date procesează.
Putem rula modelul pe serverele pe care le aveți deja, inclusiv pe clustere cu mai multe plăci video, sau pe un echipament dedicat. Pentru început sau pentru echipe mai mici, un echipament compact de tipul NVIDIA DGX Spark sau Mac Studio e un punct de pornire realist. Pentru mulți utilizatori simultani sau modele mai mari, soluția se dimensionează pe un server cu mai multe plăci video.
Alegem configurația după audit, nu înainte. Costul echipamentului îl comunicăm în ofertă, după ce știm de ce aveți nevoie.
De la audit la implementare
Ce întrebări pun oamenii zilnic și în ce sisteme stau răspunsurile.
Audit (etapă plătită)
Datele, sistemele și infrastructura existentă. Primiți arhitectura recomandată și oferta.
Prototip
Conectăm asistentul la datele reale și verificăm răspunsurile împreună cu echipa.
Test în paralel
Asistentul rulează alături de modul actual de lucru, cu un grup restrâns de utilizatori.
Instalare în rețeaua firmei
Pe serverele dumneavoastră sau pe echipamentul dedicat, cu documentație.
Suport
Urmărim răspunsurile greșite semnalate de utilizatori și ajustăm. Pentru sistemele critice stabilim prin contract suport extins.
Întrebări frecvente despre AI on-premise și LLM local
Ce înseamnă AI on-premise?
Înseamnă că modelul de inteligență artificială rulează în rețeaua firmei (pe serverele ei sau pe un echipament dedicat), nu pe serverele unui furnizor. Întrebările, datele folosite și răspunsurile rămân în rețeaua internă.
Prin ce diferă un AI local de ChatGPT?
Un asistent public rulează în cloud și primește tot ce îi scrieți. Un asistent privat rulează local și răspunde din datele companiei, la care asistenții publici nu au acces. Diferența e unde ajung datele și din ce răspunde.
Datele noastre ajung la Google, OpenAI sau alt furnizor?
Nu. Modelul e descărcat și rulează local. În funcționare, echipamentul nu are acces la internet.
Cum se fac actualizările, dacă echipamentul nu are internet?
Actualizările și intervențiile se fac controlat, cu acces administrativ securizat, stabilit împreună cu echipa IT a firmei.
Ce înseamnă GDPR și AI Act pentru un AI local?
Datele rămân în rețeaua firmei. Vă predăm documentația tehnică: ce date folosește sistemul, cine are acces, ce se jurnalizează și unde verifică un om. Cu ea, juristul sau responsabilul cu protecția datelor (DPO) al firmei face evaluarea GDPR și AI Act.
Ce model de AI folosiți?
În implementarea descrisă mai sus folosim Gemma, un model deschis publicat de Google, rulat local. Alegerea modelului depinde de echipament și de sarcină; putem folosi și alte modele deschise.
Poate asistentul să modifice date în ERP?
Nu, în forma descrisă aici doar citește. Considerăm că orice scriere în ERP trebuie să treacă printr-un om care o verifică și o aprobă.
Trebuie să ne schimbăm ERP-ul?
Nu. Asistentul se leagă de sistemele pe care le aveți deja. În implementarea descrisă mai sus, datele vin din Priority ERP, printr-o platformă construită peste el.
Cine poate vedea ce prin asistent?
Fiecare utilizator primește răspunsuri doar din datele la care are deja acces în aplicație. Asistentul nu ocolește rolurile existente.
Ce se întâmplă dacă asistentul nu știe răspunsul?
Spune că nu are informația. La întrebări care nu țin de datele companiei, refuză să răspundă.
Cât costă un AI privat on-premise?
Prima discuție e gratuită. Auditul e o etapă plătită, iar după el primiți oferta, care depinde de echipament (sau de serverele existente), de numărul de utilizatori și de câte sisteme se conectează. Nu cerem licență pe utilizator.
Discutăm pe procesele dumneavoastră
Spuneți-ne ce sisteme folosiți și ce întrebări pun oamenii zilnic. Prima discuție e gratuită.
Toate serviciile noastre
Automatizări ERP și AI privat on-premise, web design și aplicații web, optimizare SEO și găzduire.
Clientii Nostri de Succes
Parteneriate solide in proiecte de web design si realizare magazine online