Pronet Design Pronet Design Pronet Design Pronet Design Pronet Design Pronet Design Pronet Design Pronet Design

0

Se Incarca ...

AI PRIVAT ON-PREMISE

AI privat on-premise pentru companii

Un asistent AI care rulează în rețeaua firmei, pe serverele dumneavoastră sau pe un echipament dedicat, nu pe internet. Răspunde în limba română din datele firmei, iar întrebările și răspunsurile rămân în rețeaua internă.

Vedeți toate serviciile de integrare ERP și automatizări

DERULARE

Pronet Design, firmă de dezvoltare software din Sibiu, construiește din 2017 aplicații și integrări pentru firme din România, inclusiv integrări cu Priority ERP, SeniorERP și Nexus ERP.

Vedeți proiectele

AI-ul public trimite datele în afara firmei. Un AI privat le păstrează în rețeaua dumneavoastră.

Angajații folosesc deja asistenți AI publici, iar o parte din ce scriu acolo sunt date ale companiei: prețuri, clienți, contracte. Interdicțiile se respectă greu. Un asistent privat le dă oamenilor unealta, fără ca datele să plece din firmă.

Echipament dedicat pe care rulează un asistent AI privat, în biroul companiei

Datele rămân în firmă

Modelul rulează pe echipamentul din rețeaua dumneavoastră. Întrebările și răspunsurile nu sunt trimise unui furnizor extern de AI.

Fără acces la internet în funcționare

Echipamentul comunică doar cu aplicațiile firmei. Nu are nevoie de un serviciu din cloud ca să funcționeze.

Fără abonament pe utilizator

Modelul e unul deschis, descărcat și instalat local. Nu plătiți pe întrebare, nu plătiți licență pe utilizator și nu depindeți de schimbările de preț ale unui furnizor.

Fiecare vede doar ce are voie

Asistentul respectă rolurile din aplicație. Un coleg de la transport nu află prin AI ce nu vede nici în paginile lui.

Ce poate face un LLM local în firma dumneavoastră

1

Comenzi, livrări și AWB-uri, necesarul de achiziții, comenzi la furnizori, prețuri, stocuri, clienți și furnizori. Puneți întrebări normale, în română. Fiecare răspuns arată de unde vine informația, de exemplu numărul comenzii, și vine din datele firmei, nu din cunoștințele generale ale modelului.

2

În forma descrisă aici, asistentul nu modifică nimic: nu scrie în aplicație și nu scrie în ERP. Orice operațiune rămâne a omului.

3

La întrebări care nu țin de datele companiei, refuză. Când nu are informația, spune asta.

4

Asistentul citește datele prin platforma deja conectată la ERP, deci nu schimbați sistemul în care lucrați.

Aveți nevoie de agenți care pregătesc comenzi sau verifică documente? Vedeți Agenți și automatizări AI →

Studiu de caz: asistent AI local pentru o companie de distribuție din România

Pentru o companie de distribuție din România am construit o platformă de achiziții și logistică conectată la ERP-ul companiei. Peste ea rulează un asistent AI privat, folosit de aproximativ 40 de oameni.

  • Echipament: NVIDIA DGX Spark, un calculator compact de birou proiectat pentru inteligență artificială.
  • Model: Gemma, un model deschis publicat de Google. Este descărcat și rulează local, fără nicio legătură cu serviciile Google.
  • Izolare: echipamentul nu are acces la internet și comunică doar cu platforma companiei.
  • Acces: intrarea pe echipament se face cu cheie, iar drepturile depline cer un cod suplimentar de pe telefon.
  • Ce face: răspunde în chatul din platformă din datele companiei, doar în citire, cu drepturile fiecărui utilizator și cu sursa fiecărui răspuns.
  • Documente de la furnizori: pe același echipament rulează un cititor de documente care preia facturile și avizele furnizorilor (PDF sau scanate), extrage furnizorul, numărul, data, articolele, cantitățile și prețurile și le compară cu comanda la furnizor. Diferențele, de exemplu o cantitate mai mică sau un preț diferit, apar marcate, iar omul verifică și aprobă.
Echipament NVIDIA DGX Spark pe care rulează un asistent AI local

Pe ce rulează: serverele dumneavoastră sau un echipament dedicat

Un LLM local are nevoie de plăci video (GPU) și de memorie suficientă pentru modelul ales. Dimensionarea depinde în primul rând de câți oameni îl folosesc în același timp și de cât de multe date procesează.

Putem rula modelul pe serverele pe care le aveți deja, inclusiv pe clustere cu mai multe plăci video, sau pe un echipament dedicat. Pentru început sau pentru echipe mai mici, un echipament compact de tipul NVIDIA DGX Spark sau Mac Studio e un punct de pornire realist. Pentru mulți utilizatori simultani sau modele mai mari, soluția se dimensionează pe un server cu mai multe plăci video.

Alegem configurația după audit, nu înainte. Costul echipamentului îl comunicăm în ofertă, după ce știm de ce aveți nevoie.

NVIDIA DGX Spark și Apple Mac mini, două variante de echipament pentru AI local

De la audit la implementare

1

Ce întrebări pun oamenii zilnic și în ce sisteme stau răspunsurile.

2

Datele, sistemele și infrastructura existentă. Primiți arhitectura recomandată și oferta.

3

Conectăm asistentul la datele reale și verificăm răspunsurile împreună cu echipa.

4

Asistentul rulează alături de modul actual de lucru, cu un grup restrâns de utilizatori.

5

Pe serverele dumneavoastră sau pe echipamentul dedicat, cu documentație.

6

Urmărim răspunsurile greșite semnalate de utilizatori și ajustăm. Pentru sistemele critice stabilim prin contract suport extins.

Întrebări frecvente despre AI on-premise și LLM local

1

Înseamnă că modelul de inteligență artificială rulează în rețeaua firmei (pe serverele ei sau pe un echipament dedicat), nu pe serverele unui furnizor. Întrebările, datele folosite și răspunsurile rămân în rețeaua internă.

2

Un asistent public rulează în cloud și primește tot ce îi scrieți. Un asistent privat rulează local și răspunde din datele companiei, la care asistenții publici nu au acces. Diferența e unde ajung datele și din ce răspunde.

3

Nu. Modelul e descărcat și rulează local. În funcționare, echipamentul nu are acces la internet.

4

Actualizările și intervențiile se fac controlat, cu acces administrativ securizat, stabilit împreună cu echipa IT a firmei.

5

Datele rămân în rețeaua firmei. Vă predăm documentația tehnică: ce date folosește sistemul, cine are acces, ce se jurnalizează și unde verifică un om. Cu ea, juristul sau responsabilul cu protecția datelor (DPO) al firmei face evaluarea GDPR și AI Act.

6

În implementarea descrisă mai sus folosim Gemma, un model deschis publicat de Google, rulat local. Alegerea modelului depinde de echipament și de sarcină; putem folosi și alte modele deschise.

7

Nu, în forma descrisă aici doar citește. Considerăm că orice scriere în ERP trebuie să treacă printr-un om care o verifică și o aprobă.

8

Nu. Asistentul se leagă de sistemele pe care le aveți deja. În implementarea descrisă mai sus, datele vin din Priority ERP, printr-o platformă construită peste el.

9

Fiecare utilizator primește răspunsuri doar din datele la care are deja acces în aplicație. Asistentul nu ocolește rolurile existente.

10

Spune că nu are informația. La întrebări care nu țin de datele companiei, refuză să răspundă.

11

Prima discuție e gratuită. Auditul e o etapă plătită, iar după el primiți oferta, care depinde de echipament (sau de serverele existente), de numărul de utilizatori și de câte sisteme se conectează. Nu cerem licență pe utilizator.

Cine vă răspunde

Pop Romeo, fondator și CEO Pronet Design.

Profil LinkedIn

Pop Romeo, fondator și CEO Pronet Design

Discutăm pe procesele dumneavoastră

Spuneți-ne ce sisteme folosiți și ce întrebări pun oamenii zilnic. Prima discuție e gratuită.

Toate serviciile noastre

Automatizări ERP și AI privat on-premise, web design și aplicații web, optimizare SEO și găzduire.

Clientii Nostri de Succes

Parteneriate solide in proiecte de web design si realizare magazine online

REȚELE SOCIALE