Prijeđi na sadržaj
PUBLIKUMmedia
Lokalni AI

Lokalni AI koji ne napušta Vašu kuću

Mnoge tvrtke rado bi koristile AI, a ne smiju: ugovori, osobni dosjei, kalkulacije i konstrukcijski podaci ne pripadaju na poslužitelje pružatelja preko oceana. Lokalni jezični modeli to rješavaju. Rade na Vašem vlastitom hardveru ili na poslužitelju u Njemačkoj, a podaci ne napuštaju računalo na kojem se obrađuju.

Kontakt osoba: Juri Hoffmann, certificirani AI menadžer (MMAI®)Ažurirano:

Po čemu nas možete mjeriti
  • 01Rad na vlastitoj infrastrukturi, primjerice kod IHK-Bildungszentruma Bonn/Rhein-Sieg
  • 02Certificirani AI manager (MMAI®) u timu
  • 03Ugovor o obradi podataka prema čl. 28 GDPR-a kao standard
  • 04Iskrena procjena gdje je lokalni model dovoljan, a gdje nije
Što za to radimo

U detalje

Modeli u vlastitoj mreži

Otvoreni jezični modeli na Vašem hardveru ili na zasebnom poslužitelju u njemačkom podatkovnom centru. Bez curenja podataka, bez ovisnosti o jednom pružatelju.

Znanje iz Vaših dokumenata

Pitanja o priručnicima, ugovorima i arhivama, s odgovorom u kojem su izvor dokument i odjeljak. Postojeća prava pristupa ostaju sačuvana.

Agenti s lokalnom jezgrom

Isti AI agenti kao s oblačnim modelom, samo bez oblaka: provjera računa, razvrstavanje upita, pisanje nacrta.

Rad i dokazivost

Postavljanje, ažuriranja i nadzor, uz dokumentaciju s kojom možete odgovarati na pitanja o zaštiti podataka i Aktu o umjetnoj inteligenciji EU.

Rad

AI poslužitelj u Vašoj tvrtki, kojim upravljamo mi

Lokalni model traži više od računala: odabir modela, postavljanje, prava pristupa, ažuriranja, nadzor. To nije sporedni projekt za IT koji je ionako preopterećen. Mi to preuzimamo. Ne morate razumjeti hardver. Vi odlučujete koje poslove AI preuzima, a mi brinemo da radi.

01

Postavljanje

Jednokratno

AI poslužitelj postavljamo kod Vas ili u njemačkom podatkovnom centru i povezujemo ga sa sustavima koji su mu potrebni.

02

Rad

Kontinuirano

Nakon toga ga održavamo: ažuriranja, održavanje, nadzor i kontakt osoba kad nešto zapne.

03

Zaštita podataka

U ugovoru

Radimo kao izvršitelj obrade prema čl. 28. GDPR-a i dostavljamo dokumentaciju s kojom možete odgovarati službenicima za zaštitu podataka i nadzornim tijelima.

Gdje smo

Što lokalni model može, a što ne

Otvoreni jezični modeli jako su napredovali. Za sažimanje, razvrstavanje, izdvajanje podataka iz dokumenata i pisanje nacrta u većini su slučajeva dovoljni. Kod vrlo dugih dokumenata ili zamršenog zaključivanja veliki oblačni modeli još su ispred. Zato provjeravamo na konkretnom zadatku prije nego itko kupi hardver. I kombiniramo gdje ima smisla: lokalno za sve povjerljivo, oblak samo za ono što je ionako javno.

2020
osnovano
4
člana tima
35+
web stranica uživo
★
NeuroWeb Award
Iz prakse

Odgovarajući slučajevi

Svi projekti
Česta pitanja

Lokalni AI

Što znači lokalni AI?

Jezični model ne radi kod pružatelja na internetu, nego na računalu koje Vi kontrolirate: u vlastitoj kući ili na vlastitom poslužitelju u Njemačkoj. Unosi i rezultati ne napuštaju to računalo.

Je li lokalni AI usklađen s GDPR-om?

Znatno to olakšava. Ako podaci ne idu trećima, otpadaju prijenosi u treće zemlje i pitanje što pružatelj radi s Vašim unosima. Ostale obveze iz GDPR-a ostaju, primjerice ograničenje svrhe i rokovi brisanja. Obvezujući pravni savjet daje odvjetnički ured.

Jesu li lokalni modeli dobri kao ChatGPT?

Za mnoge zadatke u poslovanju jesu, za neke nisu. Sažimanje, razvrstavanje, izdvajanje podataka i pisanje nacrta lokalno dobro uspijevaju. Kod vrlo dugih tekstova ili teškog zaključivanja veliki oblačni modeli su jači. To provjeravamo na Vašem zadatku prije nego uložite.

Koji je hardver potreban?

Ovisi o modelu i o tome koliko ljudi istodobno radi s njim. Za pojedinačne tijekove rada često je dovoljno računalo s moćnom grafičkom karticom, za cijeli tim prije poslužitelj. To određujemo nakon testa, a ne prije.

Ide li i bez vlastitog hardvera?

Da. Tada model radi na zasebnom poslužitelju u njemačkom podatkovnom centru koji koristite samo Vi. To je uobičajen početak jer se tako može provjeriti isplati li se vlastiti hardver.

Čime se počinje?

Sa zadatkom u kojem su povjerljivi podaci i koji danas stoji puno ručnog rada. Provodimo ga kao pilot s lokalnim modelom i mjerimo što donosi. Tek tada se govori o proširenju i hardveru.

Zvuči li to kao
vaš projekt?

Prvi razgovor traje pola sata i ne stoji ništa. Želite li najprije provjeriti postojeće stanje, audit web stranice manji je ulaz.