AI tur, kur dati nedrīkst atstāt organizāciju: atvērtie modeļi mūsu GPU mākonī Lietuvā (ES), Claude caur Amazon Bedrock ES reģionā vai modelis jūsu pašu serveros. Bez apmācības uz jūsu datiem, piekļuve un žurnāli jūsu rokās, atbilstība VDAR, NIS2 un DORA prasībām.
Atbilst ISO 27001NIS2 DORA
Klīnikai ir pacientu ieraksti, juristu birojam – lietu materiāli, līzinga uzņēmumam – pieteikumi ar finanšu pārskatiem, ražotājam – rasējumi un cenas. AI palīdzētu katram no viņiem tikpat daudz kā jebkuram citam, taču dati nedrīkst nonākt publiskā pakalpojumā: to aizliedz klientu līgumi, nozares regulējums vai vienkārši veselais saprāts. Parasti rezultāts ir tāds, ka darbinieki tāpat izmanto ChatGPT no personīgajiem kontiem, tikai neviens to neredz un nekontrolē.
Privātais AI šo dilemmu risina ar arhitektūru, nevis ar solījumiem. Modeli darbinām tur, kur jūsu datiem ir atļauts atrasties: atvērtos modeļus (Llama, Mistral, Qwen, Gemma) mūsu pašu GPU mākonī datu centrā Lietuvā (ES), Claude caur Amazon Bedrock ES reģionā Frankfurtē, jūsu AWS kontā, vai, ja nepieciešama pilnīga izolācija, jūsu pašu serveros. Jūsu dati nekādā gadījumā netiek izmantoti modeļu apmācībai, piekļuvi nosaka identitātes jūsu Microsoft 365 vidē, un katrs pieprasījums un aģenta darbība tiek ierakstīta žurnālā, ko varat uzrādīt auditoram.
Izvēlamies, ņemot vērā to, kur jūsu datiem ir atļauts atrasties un kāda kvalitāte nepieciešama uzdevumam. Bieži tiek apvienoti divi varianti.
Llama, Mistral, Qwen vai Gemma darbojas NVIDIA GPU serveros mūsu datu centrā Lietuvā (ES), un tie ir veltīti tikai jūsu videi. Dati paliek ES, un cena ir fiksēta par GPU, nevis par pieprasījumu. Piemērots uz dokumentiem balstītiem asistentiem, klasifikācijai, kopsavilkumiem un dokumentu atpazīšanai.
Kad vajadzīga visspēcīgākā dokumentu analīze un aģentu kvalitāte: Claude modeļi darbojas Amazon Bedrock Frankfurtes reģionā, jūsu AWS kontā, bez apmācības uz jūsu datiem, ar jūsu atslēgām un CloudTrail žurnāliem. Dati paliek ES, un maksājat pēc izmantošanas.
Pilnībā izolēta vide bez interneta: GPU serveris jūsu telpās, kura iekšienē ir modelis un vektoru datubāze. Tas nepieciešams reti, galvenokārt aizsardzības nozarē, kritiskajā infrastruktūrā vai datiem ar līgumiskiem ierobežojumiem, taču, kad tas vajadzīgs, citas iespējas nav. Mēs to projektējam, ieviešam un pārvaldām attālināti, izmantojot jūsu VPN.
Tie paši risinājumi kā publiskajās platformās, tikai modelis un dati paliek jūsu kontrolē.
RAG meklēšana līgumos, procedūrās, lietu materiālos vai ierakstos ar saiti uz avotu un ar jūsu esošo piekļuves tiesību ievērošanu.
Rēķinus, pieteikumus, KYC dokumentus un izrakstus privātais modelis sadala laukos, nenosūtot tos ārvalstu OCR pakalpojumiem.
Daudzsoļu uzdevumi jūsu sistēmās ar minimālajām nepieciešamajām tiesībām, apstiprināšanas soļiem un pilnu darbību žurnālu.
E-pasti, sūdzības, incidenti un atsauksmes tiek kārtoti un novirzīti pēc jūsu noteikumiem, un sensitīvie dati nepamet vidi.
Ierakstu, lietu materiālu, atskaišu un sanāksmju kopsavilkumi, kā arī atbilžu un līgumu melnraksti pēc jūsu veidnēm.
Hibrīda variants: privātais modelis noņem personas datus, un uz Claude vai ChatGPT nonāk tikai anonimizēts teksts.
Programmēšanas asistents, kas strādā ar jūsu koda bāzi, ja kodam nav atļauts atstāt uzņēmumu.
Vektoru datubāze un semantiskā meklēšana miljoniem dokumentu, savienota ar SharePoint, jūsu ERP vai dokumentu pārvaldības sistēmu.
Īss salīdzinājums, ar kuru sākam sarunu.
| ChatGPT / Copilot (publiskie pakalpojumi) | Claude caur Amazon Bedrock ES | Atvērtie modeļi MDP CLOUD GPU mākonī | |
|---|---|---|---|
Kur darbojas modelis | izstrādātāja platformā (OpenAI, Microsoft) | jūsu AWS kontā, Frankfurtes reģionā | mūsu datu centrā Lietuvā (ES), jūsu atsevišķā vidē |
Dati, ko izmanto apmācībai | nē (biznesa plānos un API) | nē | nē |
Datu atrašanās vieta | glabāšana ES atkarībā no plāna | ES (Vācija) | Lietuva |
Modeļa kvalitāte | augstākā | augstākā | pietiekama lielākajai daļai biznesa uzdevumu |
Izmaksas | uz lietotāju vai pēc lietojuma | pēc izmantošanas | fiksētas par GPU, neatkarīgi no pieprasījumu skaita |
Pilnīga izolācija (bez interneta) | |||
Jūsu atslēgas un žurnāli | daļēji (administrēšanas žurnāli) | ||
Piemērots regulētām nozarēm | ierobežoti, atkarībā no datu kategorijas |
No datu novērtējuma līdz pārvaldītai videi 4–8 nedēļās.
Kopā apkopojam, kādi dati nonāks AI, kurām kategorijām tie pieder saskaņā ar VDAR un jūsu nozares noteikumiem un kam drīkst būt piekļuve. No tā redzam, vai pietiek ar Bedrock ES reģionā, vai vajadzīgs modelis Lietuvā (ES), vai nepieciešama pilnīga izolācija.
Modeli izvēlamies pēc uzdevuma un valodas (jūsu valodai pārbaudām vairākus), projektējam vektoru datubāzi, savienojumus ar SharePoint, jūsu ERP vai dokumentu pārvaldības sistēmu un piekļuves modeli, kas balstīts uz identitātēm jūsu Microsoft 365 vidē.
Izveidojam atsevišķu GPU vidi, ieslēdzam žurnālu un uzraudzību, ielādējam dokumentus un kopā ar jūsu darbiniekiem testējam uz vēsturiskiem gadījumiem, līdz atbilžu kvalitāte un avotu precizitāte sasniedz saskaņoto slieksni.
Pārvaldām to kā pārējo jūsu infrastruktūru: atjauninām modeļus un komponentes, uzraugām veiktspēju un izmaksas, veidojam rezerves kopijas un pārskatām žurnālus. Kad pirmais risinājums darbojas, tajā pašā vidē pievienojam nākamos.
Ja jums ir sava komanda un vēlaties modeļus darbināt paši, iznomājam NVIDIA GPU serverus datu centrā Lietuvā (ES), ar pārvaldību un rezerves kopijām.
Vispārīgiem radošiem uzdevumiem lielie komerciālie modeļi joprojām ir priekšā, tāpēc šādiem gadījumiem piedāvājam Claude caur Bedrock ES reģionā. Tipiskam biznesa darbam (meklēšanai jūsu pašu dokumentos ar avotu, klasificēšanai, kopsavilkumiem, dokumentu atpazīšanai) atvērto modeļu kvalitāte ir pietiekama, un to pārbaudām testos ar jūsu dokumentiem, pirms jūs parakstāt līgumu.
Jaunākie atvērtie modeļi labi saprot un raksta lielākajā daļā Eiropas valodu, taču tie atšķiras cits no cita, tāpēc valodu testējam ar jūsu pašu tekstiem un izvēlamies piemērotāko. Dokumentu atpazīšanai izmantojam OCR, kas apstrādā burtus ar diakritiskajām zīmēm.
Privātā modeļa izmaksas ir fiksētas par GPU vidi un nav atkarīgas no pieprasījumu skaita, tāpēc intensīvas izmantošanas gadījumā tas bieži ir lētāks par licenci katram lietotājam. Bedrock tiek rēķināts pēc izmantošanas. Pēc pirmās sarunas sagatavojam aprēķinu, balstoties uz jūsu paredzamo slodzi.
Jā, un tieši tas ir galvenais iemesls izvēlēties privāto AI: dati paliek ES, netiek izmantoti apmācībai, piekļuve ir ierobežota, darbības tiek reģistrētas žurnālā, un infrastruktūra tiek pārvaldīta atbilstoši ISO 27001 prasībām. Palīdzam arī sagatavot dokumentāciju auditam: datu plūsmas aprakstu, risku novērtējumu un datu apstrādes līgumu.
Jā, un to iesakām: viens process, viens dokumentu kopums, viena lietotāju grupa. Pirmais risinājums parasti aizņem 4–8 nedēļas, un pēc tam tajā pašā vidē tiek pievienoti nākamie bez jaunas infrastruktūras.
Atkārtoti uzdevumi, ko šodien veic cilvēks, var darboties paši, precīzāk un bez gaidīšanas.
Pasūtījumi pienāk e-pastos un PDF failos, un kāds tos pārraksta Business Central vai Horizon ar roku.
Rezervāciju pieprasījumi nonāk Messenger, atsauksmes – Google Business Profile un Wolt, pārdošanas dati glabājas R-Keeper, bet piegādātāju rēķini…
Pasūtījumi no Trans.eu, Outlook un klientu portāliem tiek ar roku pārrakstīti CargoWise, CMR fotogrāfijas ceļo pa WhatsApp, bet DKV rēķini Horizon…
Šo pakalpojumu sniedz speciālisti ar spēkā esošiem starptautiskiem sertifikātiem. Viņu kompetenci apliecina neatkarīgas organizācijas, nevis mēs paši.
AI sistēmas tiek ieviestas ar aizsardzību pret datu noplūdi un modeļu ļaunprātīgu izmantošanu.
GPU infrastruktūra un AI darbslodzes tiek uzturētas pēc NVIDIA prakses.
AI drošības programma un tās kontroles tiek pārvaldītas pēc ISACA metodoloģijas.
Atbildam 1 darba dienas laikā
