Қазақстанның ең ірі ұлттық холдингі – “Самұрық-Қазына” АҚ жуырда бұрын-соңды болмаған шешім қабылдады: Директорлар кеңесінің құрамына жасанды интеллект жүйесін – SKAI (Samruk-Kazyna Artificial Intelligence) – “цифрлық тәуелсіз директор” ретінде қосты. Бұл жаңалық қоғамда қызу талқылау туғызды: мұндай мәртебе заңды ма, жүйе нақты қандай рөл атқарады және ол корпоративтік басқару мәдениетіне қалай әсер етуі мүмкін? Алматыдағы BAQ.KZ тілшісі осы тақырыпты зерттеп көрді.
SKAI деген не және ол қалай жұмыс істейді?
“Самұрық-Қазына” қорынан алынған ресми жауапқа сәйкес, SKAI нейрожелісі – Директорлар кеңесінің цифрлық тәуелсіз мүшесі. Жүйені тағайындау туралы шешім Үкімет қаулысымен бекітілген, яғни акционердің заңды шешіміне негізделген.
SKAI-дың құқықтық мәртебесі акционер шешімдеріне сәйкес және жобаның пилоттық сипатын ескере отырып, корпоративтік басқарудың бекітілген тәртібімен айқындалған, – деді қор өкілдері.
SKAI жүйесі “Самұрық-Қазына” Директорлар кеңесінің отырыстарына аналитикалық және кеңес беру құралы ретінде қатысады. Ол материалдарды талдап, тәуекелдерді бағалайды және ықтимал сценарийлер ұсынады.
Алайда жүйе шешім қабылдауда түпкілікті дауысқа ие емес. Оның “дауыс беруі” тек аналитикалық ұстаным ретінде хаттамаға енгізіледі, ал заңдық күші бар шешімдер тек адамдардан тұратын Кеңес мүшелерімен қабылданады.
SKAI шешім қабылдау процесінің ашықтығы мен талқылау сапасын арттыратын талдамалық және сараптамалық құрал ретінде қызмет етеді, – делінген қор хабарламасында.
Неліктен “тәуелсіз директор” форматы таңдалды?
“Самұрық-Қазына” бұл форматты операциялық басқаруға араласпай, тәуелсіз көзқарасты қамтамасыз ету үшін таңдаған. Яғни SKAI адамдар арасындағы субъективтілік пен ықпалға тәуелсіз сараптама ұсынуға арналған.
Жүйе “Қазақтелеком” инфрақұрылымының жабық контурында жұмыс істейді, яғни сыртқы бұлтты сервистермен байланысы жоқ. Бұл деректердің құпиялығын және ақпараттық қауіпсіздігін қамтамасыз ету үшін жасалған.
Жасанды интеллект және цифрлық даму министрлігінің ұстанымы
Министрлік өкілдері SKAI жобасы Қазақстанның цифрлық трансформация стратегиясына толық сай келеді деп есептейді.
Бұл жоба – мемлекет жүргізіп отырған жасанды интеллектті басқару процестеріне енгізу бағытының айқын көрінісі. SKAI адамның орнын басу емес, керісінше аналитикалық көмекші рөлін атқарады. Мұндай шешімдер корпоративтік басқарудың ашықтығы мен сапасын арттырады және қолданыстағы заңнама шеңберінен шықпайды, – деді Жасанды интеллект және цифрлық даму министрлігінде.
“Біз құқықтық сұр аймақпен ойнап отырмыз”
Корпоративтік құқық жөніндегі заңгер Арман Сейдахметов бұл бастамаға сын көзбен қарайды.
Шын мәнінде, бізде жауапкершілігі жоқ “директор” пайда болды. Бұл корпоративтік басқарудың негізгі қағидасын – шешім үшін жауапкершілікті – бұзады. Бүгін SKAI кеңесші ғана, ал ертең ше? Әуелі кеңесші, кейін қатысушы, сосын толыққанды мүше болуы мүмкін. Егер оның талдауы қателесіп, компания шығынға батса, кім жауап береді? Қазір бұл – құқықтық сұр аймақ: тәуекел адамда, ал ықпал – алгоритмде, – дейді Сейдахметов.
Ал корпоративтік басқару жөніндегі тәуелсіз кеңесші Данияр Есен жасанды интеллект көмекші, бірақ шешім қабылдаушы емес екенін алға тартып отыр.
SKAI жобасы – корпоративтік мәдениеттің жаңа кезеңі. Егер бұл жүйе эмоция мен жеке мүддеден ада объективті талдау ұсынса, онда ол Директорлар кеңесінің жұмыс сапасын арттырады. Бірақ компаниялар үшін басты тәуекел – технологияға шамадан тыс сенім арту. ЖИ – көмекші, бірақ шешім қабылдаушы емес. Адамдық факторды толық алып тастау корпоративтік жауапкершілікті әлсіретеді. Сондықтан “цифрлық директор” адам мен алгоритм арасындағы тепе-теңдікті сақтаудың сынағы, – деді Данияр Есен.
Халықаралық тәжірибе: “цифрлық директорлар” бар ма?
QazCloud компаниясының жасанды интеллект жобалары бөлімінің жетекшісі Сабина Нұрлыбаева әлемдік тәжірибеге мысал келтіреді. Мәселен, Қытайдың NetDragon Websoft компаниясы бірнеше жыл бұрын стратегиялық құжаттарды талдап, күн тәртібін қалыптастыратын “цифрлық директорды” енгізген.
Нәтиже көрсеткендей, ЖИ адамды алмастырмайды, бірақ талдауды жеделдетіп, басқаруды ашық етеді және шешім қабылдаудағы субъективтілікті азайтады, – дейді Нұрлыбаева.
Осылайша, қазақстандық SKAI – жаһандық үрдістің жергілікті көрінісі. Бұл деректерге негізделген жаңа басқару дәуіріне өту әрекеті ретінде бағаланады.
ЖИ шешіміне кім жауап береді?
Мұндай жобалардағы ең күрделі мәселе – жауапкершілік пен заңдылық.
Егер ЖИ ұсынған шешім қате болып, шығын әкелсе, кім жауапты?
Барлық құқықтық жүйелерде жауапкершілік адамдар мен ұйымдарға жүктеледі, ЖИ-ге емес. Алгоритмдер құқықтық субъект мәртебесіне ие емес, сондықтан олардың негізінде қабылданған кез келген іс-әрекет адам шешімі болып саналады, – деп түсіндіреді Нұрлыбаева.
Яғни SKAI – кеңесші ғана, ал барлық заңды жауапкершілік адамда. “Директор” аталғанымен, ол нақты басқарушы емес.
Этика мен қауіпсіздік: ЖИ бейтараптығы қалай бақыланады?
Корпоративтік шешімдерге жасанды интеллектті тарту бірқатар тәуекелдерді туғызады:
– сезімтал деректермен жұмыс істеу;
– алгоритмдердің бейтараптығы;
– шешімдердің түсіндірілуі (explainable AI).
QazCloud осы бағытта AI HUB атты экожүйе құрып, келесі қағидаларды ұстанады:
– деректерді өңдеу тек тапсырыс берушінің жабық контурында жүзеге асады;
– ұсыныстар түсіндірілетін форматта беріледі;
– тәуелсіз аудит пен этикалық тексеру жүргізіледі.
Адам мен машинаның тепе-теңдігі
“Самұрық-Қазынадағы” SKAI – жай ғана технологиялық жаңалық емес, корпоративтік мәдениеттің жаңа кезеңі. Басты мақсат – шешім қабылдаудағы объективтілікті, ашықтықты және талдау сапасын арттыру.
Қазір ЖИ шешім қабылдау құқығына ие емес, бірақ оның стратегиялық деңгейдегі ықпалы сезіледі. SKAI – адамды алмастыратын емес, адамның шешімін күшейтетін жаңа құрал.
Дегенмен, заңгер Сейдахметовтың айтуынша, “ең ақылды алгоритмнің” өзі жауапкершілікті өз мойнына ала алмайды – демек, басқаруда ЖИ-ге деген сенім мәселесі әлі де ашық күйінде қалып отыр.
Жылдам ақпарат алу үшін Facebook, Instagram желілері мен Telegram каналымызға жазылыңыз!