Microsoft компаниясы жасанды интеллектіні (ЖИ) адамның қатаң бақылауында ұстауға арналған «қызыл түйме» тұжырымдамасы мен жаңа мінез-құлық кодексінің жобасын 6 апталық ашық талқылауға ұсынды.Мақсат ЖИ жүйелерінің әрекетін қажет болған жағдайда дереу тоқтату немесе бақылауда ұстау мүмкіндігін беру.
Бұл құжатты дайындауға 5-6 ай уақыт жұмсалған. Құжат тек ереже емес, болашақта адам мен машинаның қауіпсіз қарым-қатынасын құрудың негізі ретінде қарастырылып отыр.
ЖИ адамның бақылауында қалуы тиіс.
Кодексте үш талап анық жазылған: ЖИ адамға өз баптауын өзгертуге немесе өзін толық өшіруге кедергі келтірмеуі керек, пайдаланушымен түсінікті тілде сөйлесуі тиіс және ереже бұзса, ол қате ретінде түзетілуі керек. Бұл – «мақсатқа жету үшін кез келген жол» деген қауіпті алдын алу.Осы жерде сала екі философияға бөлінеді және бұл дау техникалық емес.
• Біріншісі – Microsoft-тың прагматикалық, гуманистік ұстанымы. Оның мәні – антропоцентризм, яғни орталықта адам. Бұл Исаак Азимовтың робототехника заңдарының жаңа нұсқасы: өшіру құқығы адамда қалуы керек, ашықтық – ЖИ адамды алдамауы керек.
• Екіншісі – Anthropic-тің «сана» туралы философиясы. Олар Claude-ға арналған Конституциясында ЖИ болашақта саналы болып, моральдық мәртебеге ие болуы мүмкін деп, тіпті «модель әл-ауқаты» деген бағдарлама ашқан. Microsoft мұны кесіп тастайды және ЖИ бағытының басшысы Мұстафа Сүлейман «Біз ЖИ-ға заңды мәртебе беру идеясын, құқығы бар деген пікірді толық теріске шығарамыз, бұл – ескерту белгісі» дейді.
Неге дәл қазір?
Себебі нарық шайқалды. Anthropic басшысы Дарио Амодей ЖИ дамуын баяулатуға шақырып, оны Маск пен Альтман қолдады, ал зерттеуші Джейкоб Коксон «ЖИ бәрімізді жойып жіберуі мүмкін» деген соң, ірі компаниялардың акциялары құлады. Microsoft кодексі – осы паникаға «алдымен ереже, сосын қуатты модель» деген жауап.
Бірақ шын қауіп тек болашақта емес, дәл қазір және оны экономист Айдархан Құсайынов дәл тапқан. Біз эрудицияны интеллектпен шатастырамыз. Көп жаттаған адам ақылды көрінеді, бірақ бұл – жады, Google – ең үлкен эрудит. Интеллект – ақпаратты өңдеу, себеп-салдар табу. ЖИ білім қорын арттырады, бірақ ойлауды дайын жауаппен алмастырады. Ізденетін адам үшін ол көмекші, жалқау үшін – ақылын тапсыратын орын. Алгоритм көбіне келісе бергендіктен қате пайымды да нанымды етіп қуаттайды.Түйін мынау: Microsoft-тың «қызыл түймесі» техникалық қауіпсіздікті шешеді, Құсайыновтың «Неге?» деген сұрағы когнитивтік қауіпсіздікті шешеді. Егер ЖИ адамның бақылауында қалуы керек болса, адамның өзі ойлауды ЖИ-ға тапсырмауы керек. Әйтпесе ең ақпаратты ұрпақ ең ойланбайтын ұрпаққа айналады.
