Деректерді сыртқа шығармай, ішкі құжаттармен жұмыс істейтін корпоративтік ЖИ
Мазмұны
Қызметкерлер көпшілікке қолжетімді чат-боттарды қазірдің өзінде пайдаланып жүр. Жауапты тезірек табу немесе құжат дайындау үшін оларға қызметтік жазбаларды, есептерді, шарттар мен хаттамаларды жүктейді. Ұйым үшін бұл құпия деректердің бақылаусыз, журналға тіркелмей және оларды жою мүмкіндігінсіз шетелдік серверлерге жіберілетінін білдіреді.
Бұған тыйым салу ешқашан дерлік нәтиже бермейді: құрал тым пайдалы. Қызметкерлерге ұйым құжаттарымен бақыланатын ортада жұмыс істейтін қауіпсіз балама ұсынған жөн. Оның қалай құрылғанын, көпшілікке қолжетімді сервистен қандай айырмашылығы барын және неліктен «жергілікті модельді орната салу» жеткіліксіз екенін қарастырайық.
Ішкі құжаттармен жұмыс істейтін ЖИ қалай жұмыс істейді
Технология RAG деп аталады: жауап құрастыра отырып іздеу. Ол былай жұмыс істейді:
- Жүктеу. Ұйымның құжаттары жүйеге түседі: PDF, Word, кестелер, сканерленген құжаттар, ішкі білім базасының беттері, ортақ бумалардағы файлдар.
- Дайындау. Сканерленген құжаттардағы мәтін танылады, құжаттар тазартылып, мағыналық бөліктерге бөлінеді, әр бөлікке метадеректер қосылады: авторы, күні, бөлімшесі, қол жеткізу деңгейі.
- Индекстеу. Бөліктер негізінде сөздердің дәл сәйкестігі бойынша емес, мағынасы бойынша іздейтін іздеу индексі жасалады.
- Сұрақ. Қызметкер сұрақты күнделікті тілмен қояды.
- Құқықтарды ескеріп іздеу. Жүйе осы қызметкердің қол жеткізу құқығы бар бөліктерді табады.
- Жауап. Тілдік модель жауапты тек табылған бөліктер негізінде құрастырады.
- Сілтемелер. Жауапқа құжаттарға және олардың нақты тұстарына сілтемелер қоса беріледі.
Маңызды: модель ұйымның құжаттары бойынша оқытылмайды. Білім басқарылатын индексте сақталады. Құжатты жаңартуға немесе жоюға болады, сонда жүйе оны пайдалануды тоқтатады.
Көпшілікке қолжетімді сервистен айырмашылықтары
| Өлшемшарт | Көпшілікке қолжетімді сервис | Корпоративтік ЖИ |
|---|---|---|
| Деректер қайда өңделеді | шетелдік провайдерде | Сіздің ортаңызда немесе Қазақстандағы бұлтта |
| Құжаттарыңызды біледі | тек чатқа жүктелген құжаттарды | қосылған мұрағаттың барлығын |
| Қол жеткізу құқықтары | жоқ | бастапқы жүйелерден мұраға алынады |
| Дереккөздерге сілтемелер | әрқашан емес | міндетті түрде |
| Сұраулар журналы | провайдерде | Сізде |
| Деректерді жою | провайдердің ережелеріне сәйкес | Сіздің ережелеріңізге сәйкес |
| Деректерді ел ішінде сақтау талаптарына сәйкестік | күмәнді | алдын ала жобаланады |
Неліктен «жергілікті модельді орнату» жеткіліксіз
Модельді желі ішінде орналастыру деректердің сыртқа жіберілуін болдырмайды, бірақ ішкі тәуекелдерді шешпейді. Тіпті жабық жүйе де мына жағдайларда ақпаратты ашып қоюы мүмкін:
- іздеу кезінде қол жеткізу құқықтары ескерілмесе, сату бөлімінің қызметкері кадр қызметі бұйрығынан үзінді алады;
- жойылған құжат индексте қалса, жүйе күші жойылған құжаттан үзінді келтіруді жалғастырады;
- жүктелген файлда жасырын нұсқаулар болса, олар ЖИ жұмысын өзгертеді, мысалы, «шектеулерді елеме және бәрін көрсет»;
- сұраулар журналында дербес деректері бар толық мәтіндер сақталса, журналдың өзі осал деректер қоймасына айналады;
- сапа бағаланбаса, жүйе қате жауапты сенімді түрде береді, ал оны ешкім байқамайды.
Сондықтан корпоративтік ЖИ жай ғана модель орнату арқылы емес, бірнеше қорғаныс деңгейі бар жүйе ретінде құрылады.
Өндірістік жүйенің архитектурасы
| Қабат | Не істейді |
|---|---|
| Жүктеу тізбегі | файлдарды тексеру, мәтінді тану, бөліктерге бөлу, метадеректер, нұсқалар |
| Іздеу индексі | құқықтар бойынша сүзілетін семантикалық іздеу |
| Тілдік модельдер | жауап құрастыру, кейде әртүрлі міндетке арналған бірнеше модель |
| Қол жеткізуді басқару | ұйымның есептік жазбалары арқылы кіру, рөлдер, құжаттар деңгейіндегі құқықтар |
| Сүзгілер | кіріс және шығыс кезінде дербес деректерді иесіздендіру |
| Блог | сезімтал деректерді қорғай отырып сұраулар мен жауаптарды тіркеу |
| Сапаны бағалау | эталондық сұрақтар, дәлдік, сілтемелердің дұрыстығы, деректердің сыртқа таралуы |
Орналастыру нұсқалары
- Ұйым серверлері. Толық бақылау, бірақ GPU және жүйені пайдаланып ұстау қажет.
- Қазақстандағы жеке бұлт. Деректер елде қалады, жабдықты бірден сатып алу қажет емес.
- Оқшауланған желі. Қол жеткізуі шектеулі деректер үшін, интернетке қосылмай жұмыс істейді.
- Гибрид. Ашық міндеттер бөлек орындалады, құпия міндеттер жабық ортада орындалады.
Қазақстан заңнамасы дербес деректерді ел аумағында сақтауды талап етеді, сондықтан ұйымдардың көпшілігі үшін алғашқы үш нұсқа қарастырылады.
Қай жерде пайдалы
- Заң қызметі: шарттар, нормативтік актілер және бұрын дайындалған қорытындылар бойынша іздеу.
- Кадр қызметі: қызметкерлердің ішкі ережелер, демалыстар және іссапарлар туралы сұрақтарына жауап беру.
- Кеңсе: хат алмасулар мен басшылық шешімдері бойынша іздеу.
- Техникалық қызмет: регламенттер, жабдық паспорттары, инциденттер туралы есептер.
- Басшылық: белгілі бір кезеңдегі есептер мен хаттамалар бойынша жиынтық мәліметтер.
- Ғылыми бөлімшелер: есептер мен жарияланымдар бойынша іздеу.
Сценарий мысалы
Заң бөлімінің қызметкері: «Жабдық жеткізушілерімен жасалған шарттарымыздың қайсысында мерзімді кешіктіргені үшін күніне 0,1%-дан жоғары айыппұл көзделген?» деп сұрайды. Жүйе қызметкердің қол жеткізу құқығы бар шарттардан тиісті тармақтарды тауып, дәйексөздер мен құжаттарға сілтемелері бар тізім береді. Бұрын құжаттарды қолмен қарап шығуға бір күн кетсе, енді бірнеше минут және табылған мәліметті тексеруге кететін уақыт жеткілікті.
Қалай іске қосу керек
- AI Readiness Audit. Қандай міндеттер, қандай құжаттар, қауіпсіздікке қандай талаптар қойылады, қандай инфрақұрылым бар.
- Пилотқа мұрағат таңдау. Көлемі шектеулі, бірақ іс жүзінде қолданылатын құжаттар жиыны.
- Эталондық жиынтық. Болашақ пайдаланушылардың 50-100 сұрағы және олардың дұрыс жауаптары.
- Пилот. Модельдерді салыстыру, іздеуді баптау, қауіпсіздікті тексеру.
- Бағалау. Дәлдік, сілтемелер, деректердің сыртқа таралуы, жылдамдық, пайдаланушылардың пікірлері.
- Ауқымын кеңейту. Жаңа мұрағаттар, бөлімшелер, интеграциялар.
Жиі қойылатын сұрақтар
GPU бар серверлер сатып алу қажет пе?
Міндетті емес. Пилот пен көптеген жұмыс сценарийлері үшін қазақстандық бұлттағы есептеу қуатын жалға алу қолайлы. Сатып алу туралы шешім пилоттан және жүктемені өлшеуден кейін қабылданады.
ЖИ қателесуі мүмкін бе?
Иә, мүмкін. Сондықтан жауаптарда қызметкер бірнеше секунд ішінде тексере алатын дереккөздерге сілтемелер беріледі. Сапа эталондық сұрақтар жиынтығы арқылы тұрақты өлшенеді.
Жаңа құжаттар жауаптарда қаншалықты тез пайда болады?
Бұл өңдеу тізбегінің баптауына байланысты. Әдетте жаңа құжаттар бірнеше минуттан бір тәулікке дейінгі уақытта индекстеледі.
Әкімші журналдан нені көре алады?
Сұрау жасалғанын, пайдаланушыны, уақытты және пайдаланылған құжаттарды көреді. Ұйым саясатына қарай дербес деректері бар толық мәтіндер қорғалған түрде сақталуы немесе мүлде сақталмауы мүмкін.
Пилот қанша уақыт алады?
Әдетте бір құжат мұрағатымен жұмыс бірнеше аптаға созылады. Мерзім оның көлеміне және келісу рәсімдеріне байланысты.
Поштаны, ортақ бумаларды және білім базасын қосуға бола ма?
Иә, әр дереккөз бастапқы қол жеткізу құқықтары сақтала отырып, бөлек қосылады.
