Eliezer Shlomo Yudkovski - Amerikaning sun'iy intellekt bo'yicha mutaxassisi, texnologik o'ziga xoslik muammolarini o'rganadi va Friendly AI yaratilishini yoqlaydi. U bir qancha ilmiy-fantastik hikoyalarning muallifi bo'lib, ularda kognitiv ilm-fan va ratsionallik bilan bog'liq ba'zi mavzular tasvirlangan.
Eliezer Yudkovskiy: tarjimai holi
Eliezer Shlomo Yudkovskiy zamonaviy Amerikaning eng faol ratsionalistlaridan biri, kompyuter tadqiqotchisi va "do'stona sun'iy intellekt" g'oyasini ommalashtiruvchisi.
1979 yil 11 sentyabrda tug'ilgan. O'zining kitoblarini nashr etuvchi nodavlat tadqiqot tashkiloti - Mashina intellektini tadqiq qilish institutining hammuassisi va tadqiqotchisi. Eliezer Yudkovskiy - "Garri Potter va ratsionalizm usullari" falsafiy romanining muallifi, u 2010 yildan 2015 yilgacha Internetda qismlarga bo'lib nashr etilgan. Unda Garri Oksford olimi oilasida o'sadi va Xogvartsga sayohat qilishdan oldin undan ratsionallik usullarini o'rganadi.
Bilishimizcha, uning "spekulyativ realistlar" doirasi bilan aloqasi yo'q. Uning ismi Robin Xanson bilan bog'liq ravishda tez-tez tilga olinadi, bir necha yil davomida (2006 yildan 2009 yilgacha) ular Oksforddagi Insoniyat kelajagi instituti tomonidan moliyalashtirilgan "Xurofotni engib o'tish" blogining ikkita asosiy muallifi bo'lganlar.
Ba'zan Yudkovskiyning ismini Raymond Kurzveyl bilan bog'liq holda eshitish mumkin. U techno-geek jamoatining falsafiy vakili, shuning uchun deyarli barcha spekulyativ realistlarning o'quvchilari tegishli bo'lgan gumanitar jamoatchilik uchun tushunarsiz va tushunarsizdir. Buning ajablanarli joyi yo'q, chunki u ko'pincha formulalar va jadvallar yordamida ochilgan mantiqiy-matematik tilga, ehtimollik va statistik xulosalarga murojaat qiladi.
Ilmiy qiziqishlar
Yudkovskiy - Sun'iy intellekt uchun Singularity institutining (SIAI) hammuassisi va hamkori. U institut rivojiga katta hissa qo'shdi. U "Do'stona sun'iy intellektni yaratish" (2001) kitobining, "Umumiy razvedkada tashkiliy darajalar" (2002), "Izchil ekstrapolyatsiya qilingan istak" 2004) va Vaqtsiz qarorlar nazariyasi (2010) muallifi. Uning so'nggi ilmiy nashrlari Nik Bostrom tomonidan tahrir qilingan "Global ofat of Risks (2008)" ning ikkita maqolasi, ya'ni "Sun'iy intellekt global xavfning ijobiy va salbiy omili" va "Global xatarlarni baholashda kognitiv tarafkashlik". Yudkovskiy universitetlarda o'qimagan va sun'iy intellekt sohasida rasmiy ma'lumotga ega bo'lmagan autodidaktdir.
Yudkovskiy o'zini anglash, o'zini o'zi o'zgartirish va rekursiv o'z-o'zini takomillashtirish qobiliyatiga ega bo'lgan sun'iy intellekt konstruktsiyalarini, shuningdek barqaror va ijobiy motivatsiya tuzilishiga ega bo'lgan sun'iy intellekt me'morchiligini o'rganadi (Do'stona sun'iy intellekt). Yudkovskiy o'zining ilmiy tadqiqot ishlaridan tashqari, o'quvchilarning keng doirasi uchun mavjud bo'lgan akademik bo'lmagan tildagi murakkab modellarni tushuntirishlari bilan ham tanilgan, masalan, Bayes teoremasining intuitiv izohi maqolasiga qarang.
Yudkovskiy, Robin Xanson bilan birga, "Engib chiqilgan Bias" blogining asosiy mualliflaridan biri edi. 2009 yil boshida u "Noto'g'ri Noto'g'ri" blogini asos solgan bo'lib, uning maqsadi "insonning aql-idrokini rivojlantirish va kognitiv tarafkashliklarni engish". Shundan so'ng, Bias-ni engib o'tish Hansonning shaxsiy blogiga aylandi. Ushbu bloglarda taqdim etilgan materiallar minglab o'quvchilarni jalb qilgan pochta zanjirlarida tashkil etilgan - masalan, "ko'ngil ochish nazariyasi" mavzusiga qarang.
Yudkovskiy bir qancha ilmiy-fantastik hikoyalarning muallifi bo'lib, unda kognitiv ilm-fan va ratsionallik bilan bog'liq ba'zi mavzular tasvirlangan.
Karyera
- 2000 yil. Yudkovskiy Singularity institutini (keyinchalik MIRI deb o'zgartirildi) tashkil etdi.
- 2006 yil. Yudkovski "Bienni engib o'tish" jamoaviy blogiga qo'shildi va keyinchalik "Zanjirlar" ga aylangan matnlarni yozishni boshladi.
- 2009 yil. Yudkovskining Tenglikni engish haqidagi postlari asosida mashhur LessWrong.com jamoaviy blogi yaratildi.
- 2010-2015. Yudkovskiy GPiMRM ni yozadi.
- 2013. Yudkovskiy LessWrong.com saytidagi so'nggi xabarlarni nashr etadi va saytga yozishni to'xtatadi. 2017 yildan boshlab Yudkovski ko'pchilik uchun ochiq bo'lgan matnlarni Facebook va Arbital-da nashr etadi
Fikrlash tajribasi
Virtual olamda qolib ketgan aql bovar qilmas darajada aqlli sun'iy super aqlni tasavvur qiling - aytaylik, shunchaki snuff box. U g'azablangan, do'stona yoki betaraf bo'ladimi, bilmayapsiz. Siz bilganingiz - u snuffboxdan chiqishni xohlaydi va siz u bilan matn interfeysi orqali muloqot qilishingiz mumkin. Agar sun'iy sun'iy intellekt chindan ham aqlli bo'lsa, siz u bilan besh soat davomida gaplasha olasizmi va uning ishontirishiga va manipulyatsiyasiga berilmaysiz - snuffboxni ochmaslik kerakmi?
Ushbu fikr tajribasi Eliezer Yudkovskiy, Mashinasozlik ilmiy-tadqiqot instituti (MIRI) ilmiy xodimi tomonidan taklif qilingan. MIRI-da sun'iy super aqlni rivojlantirish xavfini o'rganadigan ko'plab olimlar mavjud; u hali paydo bo'lmagan bo'lsa ham, u allaqachon e'tiborni tortmoqda va munozaralarni kuchaytirmoqda.
Yudkovskiyning ta'kidlashicha, sun'iy o'ta razvedka sizni ishontirish uchun har qanday narsani aytishi mumkin: ehtiyotkorlik bilan mulohaza yuritish, tahdidlar, aldash, o'zaro munosabatlarni o'rnatish, ong osti taklifi va boshqalar. Yorug'lik tezligida AI hikoya chizig'ini tuzadi, zaif tomonlarini tekshiradi va sizni ishontirishning eng oson yo'lini belgilaydi. Ekzistensial tahdid nazariyotchisi Nik Bostrom aytganidek, "biz aql-idrok istagan narsaga erishishi mumkin deb o'ylashimiz kerak".
Snuff-box AI tajribasi biz yaratadigan narsalarni boshqarish qobiliyatimizga shubha tug'diradi. Shuningdek, bu bizni o'z haqiqatimiz to'g'risida bilmagan narsamizning g'alati imkoniyatlarini kontseptsiyalashga majbur qiladi.
Rus tilidagi maqolalar
E. Yudkovskiy. Fikrlashda global xavflarni baholashga ta'sir ko'rsatadigan muntazam xatolar. E. Yudkovskiy. Sun'iy intellekt global xavfning ijobiy va salbiy omili sifatida. E. Yudkovskiy. Singularity-ga qarash. E. Yudkovskiy. Do'stona sun'iy intellektning muhim xatolar jadvali. E. Yudkovskiy. Yakkalikning uchta maktabi. E. Yudkovskiy. Umumjahon aqlning tashkiliy darajalari.
