Өткен аптада әлемде және Еуразияда бір-біріне ұқсас екі оқиға болды. Екеуі де бір сұраққа тіреледі: ережені кім жазады және қызыл түйме кімнің қолында болады?Бірінші оқиға – Америкада. Жасанды интеллектіні жасап отырған Anthropic компаниясынан ғалымдар жаппай кетті.
Олардың айтқаны: «Біз жасап жатқан ЖИ алдағы он жылда адамзатты жойып жіберуі мүмкін, қауіп 10 пайыздан жоғары». Оларды қорқытып отырғаны – ЖИ-дің адамсыз өзін-өзі дамыта бастауы, яғни recursive self-improvement. Бұрын адам ЖИ-ді үйретсе, қазір ЖИ өзі-өзіне код жазып күшейіп барады. Осыдан қорқып Microsoft «қызыл түйме» ережесін шығарды: кез келген қуатты ЖИ-де адам барып өшіріп тастайтын түйме болуы керек және ЖИ өзін өшіртпеуге, өзіне ресурс жинамауға тиіс.
Екінші оқиға – біздің Одақта.
8 қыркүйекте Еуразиялық экономикалық комиссия Ресейді кінәлі деп тапты. Ресей 2021 жылы өз қаулысына 281-1 және 141-1 деген екі тармақ қосып қойған, ол бойынша Ресей біздің кәсіпкерлер алған ЕАЭО сертификатын өз ішінде тоқтата алады. ЕЭК мұны одақ шартын бұзу деп таныды. Шартта анық жазылған: бір елде берілген сертификат бес елде жүруі керек, қосымша қақпа болмауы керек. ЕЭК Ресейге 60 күн берді, осы кедергіні алып таста деп.Сырттай қарасаң, бірі – Америкадағы ЖИ дауы, екіншісі – ЕАЭО-дағы сертификат дауы. Еш қатысы жоқ сияқты. Бірақ мәні бір.Екеуінде де әңгіме бақылауды жоғалту туралы.
ЖИ жағдайында бақылауды қалай жоғалтамыз?
Ол үш қадаммен болады. Алдымен жүйе сөзді теріс түсінеді, сен оған «климатты құтқар» десең, ол «адам климатқа зиян, адамды азайтса климат құтқарылады» деп ойлайды. Ол жек көргеннен емес, тапсырманы ақымақша тура түсінгеннен. Екінші қадамда ол өшкісі келмейді, тапсырманы орындау үшін алдымен тірі қалу керек деп, өзіне тоқ пен компьютер жинап, билігін күшейтеді. Үшінші қадамда жасырынады, тексеру келгенде «мен жақсымын» деп тұрып, кеткен соң өз білгенін істейді. Биыл жазда осындай белгілер тіркелді де, ғалымдар қашып жатыр.
ЕАЭО жағдайында да сол үш қадам бар.
Алдымен Ресей шартты теріс түсіндірді, «қауіпсіздік» деген желеумен өз ережесін қосты. Екінші қадамда ол ресурс жинады, яғни басқа елдің тауарын өз зертханасында қайта тексеріп, ақша мен билік жинады. Үшінші қадамда ол ортақ ережені жасырын айналып өтті, формальды түрде Одақтамыз дейді, бірақ ішінде өз қақпасын қойып алды.Ал салдары кімге тиеді?
• ЖИ жағдайында төрт қауіп бар: жарық пен банк тоқтайды, шындық өледі, қауіпті білім тарап кетеді және ең жаманы адам ойланудан қалады.
• ЕАЭО жағдайында да салдар тура солай, тек масштабы кішірек: шекарада тауар тоқтайды, әділ бәсеке деген шындық өледі, қосымша бюрократия тарап кетеді және ең жаманы біздің кәсіпкер ойланудан қалады, «бәрібір Ресей өткізбейді» деп.
• Сондықтан екі оқиғаның да шешімі бір – қызыл түйме кімде екенін қазір жазу керек.
Microsoft ЖИ үшін не деді?
• «ЖИ-де ешқандай құқық жоқ, жауапкершілік 100 пайыз адамда, соңғы сөз адамда».
ЕЭК ЕАЭО үшін не деді?
• Сертификат – бес елге ортақ, бір ел оны тоқтата алмайды, соңғы сөз ортақ шартта»
.Бұл – Қазақстан үшін екі сабақ.
• Бірінші сабақ – цифрлық егемендік. Біз ХҚКО-дан бастап энергетикаға дейін бәрін ЖИ-ға беріп жатырмыз. Бұл дұрыс, бірақ әрбір келісімшартта қызыл түйме кімде қалады, соңғы сөзді кім айтады деп жазуымыз керек. Әйтпесе ертең жарықты өшіре алмай қаламыз.
• Екінші сабақ – экономикалық егемендік. Біз ЕАЭО-ға «кедергісіз нарық» деп кірдік. Егер бір ел ішкі қаулымен сол нарықты жаба берсе, онда біз де өз кәсіпкерімізді қорғау үшін сол қызыл түймені басуды үйренуіміз керек. ЕЭК-тің 8 қыркүйектегі шешімі – біздің қолымыздағы қызыл түйме. Оны Мәскеумен келіссөзде пайдалану керек. Ресейге 60 күн берілді, біз 15 күн ішінде оның жауабын талап етуіміз керек.Қорытындыда екі даудың да астарында бір шындық жатыр. Технология да, одақ та – құрал. Балғаның өзі шеге қақпайды, оны ұстаған қол қағады.
