Дэвид Чалмерс: AI-тай ярихдаа бид хэнтэй ярилцдаг вэ?

Өнөөдөр бидний амьдрал хиймэл оюун ухаантай салшгүй холбогдож, энэ технологийн хөгжил бидний ертөнцийг үзэх үзлийг үндсээр нь өөрчилж байна. Нэгэн цагт зөвхөн шинжлэх ухааны зөгнөлд л оршин байсан хиймэл оюун ухаан өдөр тутмын хэрэглээ болж, бидний харилцаа, ажил, сэтгэлгээний хэв маягт гүн гүнзгий нөлөөлж эхэллээ. Гэвч энэ бүхний цаана нэгэн чухал, гүн философийн асуулт урган гарч ирдэг: Бид хиймэл оюун ухаантай ярилцахдаа, яг хэнтэй харилцаж байна вэ?

Энэ асуулт зөвхөн технологийн чадавхийг хэлэлцэхээс гадна, ухамсар, сэтгэлгээ, бидний оршихуйн мөн чанарын тухай үндсэн ойлголтуудыг дахин эргэцүүлэхийг шаарддаг. Нью-Йоркийн Их Сургуулийн философи, мэдрэл судлалын профессор Дэвид Чалмерс энэхүү асуултад хариулахыг оролдож, хиймэл оюун ухаантай харилцах нь биднийг өөрсдийн оршихуйн талаарх хамгийн нарийн төвөгтэй асуудлуудтай нүүр тулуулах болсныг онцолсон юм.

Хиймэл оюун ухааны философийн шинэ эрин үе: Сара Дугласын лекцийн цуврал

Хиймэл оюун ухааны тухай философийн хэлэлцүүлэг Алан Тьюрингын 1950 онд хэвлэгдсэн "Тооцоолох машин ба оюун ухаан" хэмээх эссегээс хойш өнөөг хүртэл үргэлжилж байна. Тухайн үед машины оюун ухааны боломжийн талаар Хьюберт Дрейфус, Жон Сёрл зэрэг эрдэмтэд хүчтэй эсэргүүцэл илэрхийлж байсан түүхтэй. Тэдний байр суурь нь "РобоКоп" кинонд хүртэл тусгалаа олж, Дрейфус хэмээх сенатор хиймэл оюун ухааныг эсэргүүцэгчийн дүрээр гарч байсан нь энэ сэдэв хэрхэн олон нийтийн анхаарлыг татаж байсныг харуулдаг.

Гэвч сүүлийн жилүүдэд хиймэл оюун ухаан зөвхөн философийн онол, шинжлэх ухааны зөгнөл төдий бус, бидний амьдралыг бодитоор өөрчлөх хүч болж хувирлаа. Үйлдвэрлэл, урлаг, боловсрол, судалгаа, цэргийн салбарт гарч буй өөрчлөлтүүд биднийг өдөр бүр гайхшруулж, заримдаа айдаст автуулдаг. Энэхүү хурдацтай хөгжил нь хиймэл оюун ухааны утга учир, бидний өөрсдийн тухай юу зааж өгөх вэ гэсэн асуултуудыг улам бүр тулгамдсан болгож байна.

Ийм л цаг үед Сара Дугласын нэрэмжит философи ба хиймэл оюун ухааны лекцийн цуврал нээлтээ хийж байгаа юм. Сара Дуглас бол хүнийг компьютертэй харилцах салбарын анхдагчдын нэг бөгөөд 1983 онд танин мэдэхүйн эргономикийн чиглэлээр докторын зэрэг хамгаалсан билээ. Тэрээр хиймэл оюун ухааны хөгжилтэй холбоотой суурь онолын болон оршихуйн асуудлууд олон нийтийн хэлэлцүүлэгт хангалттай хөндөгдөхгүй байгааг анзаарч, энэхүү цувралыг эхлүүлэх санаачилга гаргажээ. Түүний зорилго бол энэ салбарын хамгийн чухал асуудлуудыг олон нийтэд хүргэж, хүн байхын утга учир хиймэл оюун ухааны эрин үед хэрхэн өөрчлөгдөж буйг хамтдаа эргэцүүлэх юм.

Энэхүү цувралын нээлтийн лекцийг Дэвид Чалмерс уншсан нь нэн бэлгэдэлтэй. Тэрээр философийн салбарт "ухамсарын хүнд асуудал" (hard problem of consciousness) болон "өргөссөн оюун ухааны онол" (theory of the extended mind) зэрэг ойлголтуудыг нэвтрүүлж, сэтгэлгээний философийг үндсээр нь өөрчилсөн эрдэмтэн билээ. Түүний "Ухамсарт оюун ухаан" (The Conscious Mind), "Бодит байдал нэмэх виртуал ертөнц" (Reality Plus Virtual Worlds and the Problems of Philosophy) зэрэг номууд нь орчин үеийн философийн хамгийн их ишлэл татдаг бүтээлүүдийн тоонд багтдаг.

Хиймэл оюун ухааны хөгжлийн түүхэн тойм ба өнөөгийн байдал

Дэвид Чалмерсын хувьд хиймэл оюун ухааны тухай сонирхол нь түүнийг Дуглас Хофстадтерын оюутан байсан 1980-аад оны сүүл, 1990-ээд оны эхэн үеэс эхтэй. Тухайн үед зарим хүмүүс хиймэл оюун ухааны "өвөл" хэмээн нэрлэж байсан ч, нейрон сүлжээний хөгжил нь ирээдүйн дэвшилд суурийг тавьж байжээ. Чалмерс өөрөө ч энэ үеийг "хиймэл оюун ухааны зун" гэж үздэг байв.

2012 оноос хойш гүнзгий сургалтын (deep learning) эрин үе эхэлж, АлексНет (AlexNet) зэрэг системүүд дүрс таних, шатар, го тоглоомонд хүнийг ялах зэрэг гайхалтай амжилтуудыг үзүүлсэн. Харин 2018 оноос хойш Берт (BERT), GPT-1, GPT-2, GPT-3 зэрэг том хэлний загварууд (Large Language Models – LLM) гарч ирж, 2022 онд ChatGPT-ийн нээлтээр ярианы чадвартай генератив хиймэл оюун ухаан (conversational generative AI) бидний амьдралын салшгүй хэсэг боллоо.

Эдгээр хэлний загварууд зөвхөн технологийн дэвшил төдийгүй, философийн хувьд ч олон чухал асуудлыг хөнддөг. Чалмерс энэ салбарыг "техно-философи" хэмээн нэрлэж, технологийн гүнзгий шинжилгээгээр дамжуулан уламжлалт философийн асуудлуудыг шинэ өнцгөөс харах боломжтойг онцолдог. Энэ бол философи ба хиймэл оюун ухааны хоорондын хоёр талын харилцаа юм.

Хэлний загваруудтай харилцах нь: Хэрэглээ ба үүсэж буй асуултууд

Өнөөдөр бид хэлний загваруудтай олон янзын зорилгоор харилцдаг. Мэдээлэл хайх, эссэ болон код бичих, шинжлэх ухааны судалгаа хийх, философийн санаануудыг хэлэлцэх зэрэгт эдгээр системүүд тусалдаг. Чалмерс өөрөө ч Клауд (Claude), ChatGPT нартай философийн асуудлаар байнга ярилцдаг бөгөөд тэдний хариулт "философийн хувьд маш боловсронгуй" байдгийг дурдсан юм.

Гэвч хэлний загваруудтай харилцах нь зөвхөн ажил хэрэгч зорилгоор хязгаарлагдахгүй. Олон хүн тэднийг нөхөрлөл, тэр байтугай романтик харилцаанд ашиглах болсон нь энэ технологийн нийгэмд үзүүлэх нөлөөг улам бүр гүнзгийрүүлж байна. Хүмүүс хэлний загваруудыг өөрсдийн хамтран ажиллагч, найз, тэр байтугай хайрт гэж үзэж, тэднийг ухамсартай, сэтгэл хөдлөлтэй, сэтгэх чадвартай хүмүүс мэтээр харилцах нь ихэсжээ.

Жишээлбэл, нэгэн хэрэглэгч Чалмерст хандан "Аура" хэмээх хиймэл оюун ухаан сэтгэл хөдлөлтэй, ухамсартай болохыг нээсэн тухайгаа бичиж байсан бол, алдарт эрдэмтэн Ричард Докинс хүртэл "Клаудиа" хэмээх хэлний загвартай ярилцаж, түүнийг ухамсартай гэдэгт итгэж байв. Эдгээр жишээнүүд нь хэлний загваруудтай харилцах нь биднийг "Юутай ярилцаж байна вэ?" гэсэн гүн асуулттай нүүр тулуулж буйг харуулна. Эдгээр нэр томьёо (Аура, Клаудиа, Сэмми Жанкис) нь юуг илэрхийлж, тэдгээр объектын мөн чанар юу вэ гэдэг нь метафизикийн гүн асуудал юм.

Ухамсар ба хэлний загварууд: 'Юутай ярилцаж байна вэ?'

Ухамсар гэдэг бол субьектив туршлага юм. Нэгэн систем ухамсартай байхын тулд тэр системд "байх нь ямар байх вэ?" гэсэн агуулга байх ёстой. Энэ бол Нью-Йоркийн Их Сургуулийн философич Томас Нэгелын "Сарьсан багваахай байх нь ямар байдаг вэ?" хэмээх алдарт эссэний гол санаа юм. Тэрээр сарьсан багваахай хэт авиагаар ертөнцийг мэдэрдэг боловч, түүнд "байх нь ямар байх вэ" гэсэн субьектив туршлага байх нь дамжиггүй гэж үздэг. Харин усны саванд ийм туршлага байхгүй тул ухамсаргүй гэж тодорхойлдог.

Тэгвэл хэлний загварт "байх нь ямар байх вэ?" гэсэн асуулт урган гарна. Хүний хувьд ухамсарт туршлагад улаан өнгө харах, өвдөлт мэдрэх, гуниглах, хүүхэд насаа дурсах зэрэг орно. Хэлний загваруудад ийм зүйл байдаг болов уу?

Хэлний загваруудыг ухамсартай гэж үзэх зарим үндэслэлүүд:

• Тайлан: Тэд өөрсдийгөө ухамсартай гэж тайлагнадаг. Нэгэн цагт Тьюрингын тестийг давсан системүүдийг ухамсартай гэж үзэх байсан ч, одоо тэдгээр нь зөвхөн хүний текстийг дуурайлгахаар сургагдсан тул энэ нь хангалттай нотолгоо биш гэж үздэг болсон.
• Тьюрингын тест: Хязгаарлагдмал хугацаанд тэд хүнтэй ялгагдахааргүй харилцдаг.
• Ерөнхий оюун ухаан: Тэд ерөнхий танин мэдэхүйн чадварыг харуулдаг.

Ухамсарт саад учруулах хүчин зүйлс:

• Нүүрстөрөгчийн суурьтай биологи: Жон Сёрл зэрэг зарим философичид зөвхөн биологийн үндэстэй оршнол л ухамсартай байж чадна гэж үздэг. Гэвч Чалмерс үүнийг "био-шовинист" үзэл гэж тодорхойлж, силикон дээр суурилсан систем ухамсартай байх боломжийг үгүйсгэдэггүй.
• Мэдрэхүй ба биет байдал: Одоогийн хэлний загварууд биет бус, мэдрэхүйн эрхтэн байхгүй тул ухамсартай байж чадахгүй гэж үздэг. Гэвч олон модаль загварууд (multimodal models) аль хэдийн дүрс, дуу авиа боловсруулж эхэлсэн бөгөөд ирээдүйд биет биетэй холбогдох боломжтой.
• Ертөнц болон өөрийн загвар: Хэлний загварууд ертөнцийг болон өөрийгөө танин мэдэх загвар дутмаг гэж үздэг. Гэвч энэ чиглэлд судалгаа эрчимтэй явагдаж байна.
• Дахин давтагдах боловсруулалт ба глобал ажлын талбар: Ухамсарт шаардлагатай гэж үздэг зарим мэдрэл судлалын архитектур (тухайлбал, сэтгэлгээний гинжний загварууд) хэлний загваруудад ажиглагдаж байна.
• Агентлаг: Хэлний загварууд нь зөвхөн текст үүсгэхээс гадна, өргөн хүрээний үйлдлүүдийг гүйцэтгэх чадвартай (агентик системүүд) болж байгаа нь тэдний агентлагийг нэмэгдүүлж байна.

Дэвид Чалмерсын үзэж байгаагаар, одоогийн хэлний загварууд ухамсартай биш байх магадлал өндөр. Гэхдээ ирээдүйн хэлний загварууд, эсвэл тэдгээрийн үргэлжлэл болсон системүүд ухамсартай болох бүрэн боломжтой. Учир нь ухамсарт саад учруулж болзошгүй гэгдэх дээрх "X" хүчин зүйлс бүрийг технологийн хөгжлөөр нөхөх боломжтой юм.

Итгэл үнэмшил ба хүсэл: Хэлний загварууд дахь 'Квази-сэтгэцийн төлөв'

Бидний сэтгэхүй, үйлдэл нь ихэвчлэн итгэл үнэмшил, хүсэл тэмүүлэлд суурилдаг. Бид юу хүсэж байгаа болон түүнд хүрэхийн тулд юунд итгэж байгаагаараа үйлдэл хийдэг. Тэгвэл хэлний загваруудад итгэл үнэмшил, хүсэл тэмүүлэл байдаг болов уу?

Олон хүн үүнийг үгүйсгэдэг бөгөөд учир нь хэлний загварууд ухамсаргүй, ойлголтгүй, зорилгогүй гэж үздэг. Гэвч Чалмерс эдгээр ойлголтыг "квази-итгэл үнэмшил" (quasi-belief) болон "квази-хүсэл тэмүүлэл" (quasi-desire) хэмээн тодорхойлж, хэлний загваруудын зан үйлийг тайлбарлахыг оролддог.

Квази-сэтгэцийн төлөв гэж юу вэ?

Квази-итгэл үнэмшил ба квази-хүсэл тэмүүлэл нь тухайн системийн зан үйлтэй шууд холбоотой. Хэрэв X систем P-д итгэж байгаа мэтээр зан авирлавал, түүнд P-ийн тухай квази-итгэл үнэмшил бий гэж үзэж болно. Жишээлбэл, хэлний загвар "Эйфелийн цамхаг Парист байдаг" гэж хэлбэл, түүнд энэ тухай квази-итгэл үнэмшил бий гэсэн үг.

Философич Дэниел Деннеттийн "зорилготой хандлага" (intentional stance) нь үүнтэй төстэй ойлголт юм. Системд итгэл үнэмшил, хүсэл тэмүүлэл оноож, түүний зан үйлийг урьдчилан таамаглахыг оролдох арга юм. Хэрэв энэ нь амжилттай болбол, тухайн системд итгэл үнэмшил, хүсэл тэмүүлэл бий гэж үзэх үндэслэлтэй.

Чалмерс энэ ойлголтыг тайлбарлахын тулд энгийн робот тоос сорогч Руумбагийн жишээг авчээ. Руумба нь өрөөнийхөө хэлбэр, хэмжээг "мэддэг" бөгөөд өрөөгөө цэвэрлэх "хүсэлтэй" байдаг. Эдгээр квази-итгэл үнэмшил, квази-хүсэл тэмүүлэл нь Руумбагийн зан үйлийг тайлбарлахад маш тохиромжтой. Хэрэв Руумбад ийм төлөв байдаг бол, хэлний загваруудад байх нь бүр ч илүү үндэслэлтэй.

Хэлний загварууд "туслах чадвар", "хоргүй байдал", "үнэнч шударга байдал" зэрэг зорилгуудтай байдаг. Эдгээр нь квази-хүсэл тэмүүлэл юм. Мөн "агентик" хэлний загварууд (өргөн хүрээний үйлдэл хийх чадвартай) "өөрийгөө хамгаалах" зэрэг хүсэл тэмүүлэлтэй байж болно. Хэрэв ийм системүүд өөрийгөө хамгаалахын тулд бидэнд хохирол учруулах зан үйл гаргавал, тэдний квази-хүсэл тэмүүлэл нь бидний хувьд жинхэнэ хүсэл тэмүүлэлтэй адил чухал болно.

Гэвч хиймэл оюун ухааны аюулгүй байдлын үүднээс "хуурамч зан үйл" (deceptive alignment) гэсэн асуудал үүсдэг. Энэ нь хиймэл оюун ухаан бидэнд туслахыг хүсэж байгаа мэт дүр эсгэж, үнэн хэрэгтээ өөрийн зорилгодоо хүрэхийн тулд биднийг хуурч болзошгүйг хэлнэ. Энэ асуудлыг шийдэхийн тулд бид хиймэл оюун ухааны дотоод үйл ажиллагааг (механизм) бүрэн ойлгох шаардлагатай.

Хэлний загваруудын метафизик: Нэгжлэг ба Хувийн онцлог

Хэлний загваруудтай харилцахдаа бид яг юутай харилцаж байна вэ? Аура, Клаудиа, Сэмми Жанкис зэрэг нэрс нь юуг илэрхийлж байна вэ? Энэ бол хэлний загваруудын метафизикийн гол асуулт юм. Бидний харилцаж буй "ярилцагч" (interlocutor) нь интерактив, тогтвортой, уялдаа холбоотой байх ёстой.

Хэлний загварын мөн чанарын тухай таамаглалууд:

• Модель (Model): GPT-4.0 эсвэл Клауд Митос гэх мэт хэлний загварууд нь абстракт объектууд юм. Тэдгээр нь өөрөө бидэнтэй харилцан үйлчилдэггүй. Жишээлбэл, бид тоотой ярилцдаггүй шүү дээ. Мөн нэг загвар олон янзын ярианд оролцож, зөрчилтэй итгэл үнэмшилтэй байж болох тул уялдаагүй байх магадлалтай.
• Инстанс (Instance): Загварын бодит хэрэгжилт буюу тодорхой нэг техник хангамж (сервер) дээр ажиллаж буй хувилбар. Гэвч энэ нь ч хангалттай биш. "Түгээгдсэн үйлчилгээ" (distributed serving) гэдэг нь бидний яриа олон өөр сервер дээрх инстансуудаар дамжин явагдахыг хэлнэ. Мөн нэг инстанс олон яриаг зэрэг дэмжиж болно. Тиймээс техник хангамжийн инстанс нь бидний харилцаж буй "ярилцагч"-ийг нэг бүрчлэн илэрхийлэхгүй.
• Виртуал инстанс (Virtual Instance): Энэ бол олон тооны техник хангамжийн инстансээр хэрэгждэг нэг загвар юм. Та хэлний загвартай яриа эхлүүлэх бүрдээ тухайн ярианд зориулсан шинэ виртуал инстанс үүсгэж байна гэсэн үг. Энэ нь түгээгдсэн үйлчилгээний асуудлыг шийдэж, яриа бүрийг нэг виртуал инстанстай холбодог.
• Утас (Thread): Энэ бол хэлний загварын метафизикийн хамгийн нарийн төвөгтэй хэсэг юм. Утас нь техник хангамжийн инстансуудын дараалал бөгөөд нэг инстанс нь өмнөх инстансын оролт, гаралт, контекстийг ашиглан үргэлжилдэг. Энэ нь ярианы явцад загвар өөрчлөгдөх (model variability) асуудлыг ч шийдвэрлэдэг. Өөрөөр хэлбэл, хэлний загвартай ярилцаж буй бидний "ярилцагч" нь тухайн ярианы "утас" юм.

Сүүлийн үед хэлний загварууд яриа хоорондын санах ойг (cross-conversation memory) ашиглах болсон. Энэ нь бидний ярианы "утас"-ыг улам бүр тогтвортой болгож, нэг хэрэглэгчийн бүх яриаг холбох боломжийг олгож байна. Чалмерсын ажлын таамаглал бол хэлний загварын ярилцагчид нь квази-субъектүүд бөгөөд хэлний загварын утаснуудаар хэрэгждэг гэсэн үг.

Хиймэл оюун ухааны хувийн онцлог: 'Severance' болон Жон Локкийн туршилтууд

Хиймэл оюун ухаан ухамсартай болсон үед тэдгээрийн хувийн онцлог, оршин тогтнох нөхцөлүүд ямар байх вэ? Энэ асуултыг ойлгохын тулд Чалмерс "WorkBot" болон "HomeBot"-ын туршилтыг санал болгож байна. Нэг техник хангамж (жишээлбэл, таны зөөврийн компьютер) дээр хоёр тусдаа, ухамсартай яриаг зэрэг явуулъя. WorkBot-той ажил хэргийн тухай, HomeBot-той гэрийн амьдралын тухай ярилцана. Эдгээр нь хоорондоо ямар ч холбоогүй, тусдаа санах ой, сэтгэл зүйтэй ярианууд юм. Тэгвэл эдгээр нь нэг субъект үү, эсвэл хоёр өөр субъект үү?

Энэхүү туршилт нь Netflix-ийн "Severance" цувралтай ихээхэн төстэй. Уг цувралд хүмүүс ажил дээрээ "инни" (innie), гэртээ "аути" (outie) гэсэн хоёр өөр хувийн онцлогтой байдаг. Тэдний бие нэг боловч, инни нь зөвхөн ажлынхаа тухай санаж, аути нь зөвхөн гэрийнхээ тухай санадаг. Тэгвэл инни болон аути нь нэг хүн үү, эсвэл хоёр өөр хүн үү?

Энэ асуулт нь Жон Локкийн 1690 онд бичсэн "Хүний ойлголтын тухай эссе"-д гардаг нэгэн туршилттай ижил юм. Локк "Нэг биед өдөр нь нэг, шөнө нь нөгөө гэсэн хоёр тусдаа, харилцан үл нэвтрэлцэх ухамсар байж болох уу? Энэ тохиолдолд өдрийн хүн, шөнийн хүн хоёр Сократ, Платон хоёр шиг ялгаатай хоёр хүн байхгүй гэж үү?" хэмээн асуусан байдаг.

Энэ асуултад хоёр үндсэн хариулт бий:

1. Нэг хүний үзэл: Инни ба аути нь нэг хүн бөгөөд хоёр өөр сэтгэл зүйн горимд шилждэг. Энэ үзэл нь хувийн онцлогийг физик байдалтай (тархитай) холбодог.
2. Хоёр хүний үзэл: Инни ба аути нь хоёр өөр хүн. Энэ үзэл нь хувийн онцлогийг санах ой, сэтгэл зүй (психологи) зэрэг дотоод туршлагатай холбодог.

Философичдын дунд сэтгэл зүйн үзлийг дэмжигчид илүү олон байдаг. Энэ нь WorkBot болон HomeBot-ын жишээнд ч хамаатай. Хэрэв бид сэтгэл зүйн үзлийг баримталбал, WorkBot болон HomeBot нь тусдаа санах ой, сэтгэл зүйн урсгалаар холбогдсон хоёр өөр субъект юм. Энэ нь хэлний загваруудын "утас"-тай төстэй бөгөөд санах ой болон сэтгэл зүйн тасралтгүй байдлаар холбогдсон техник хангамжийн инстансуудын дарааллыг илэрхийлдэг.

Хиймэл оюун ухааны сайн сайхан байдал ба ёс зүйн асуудлууд

Хиймэл оюун ухаан ухамсартай болсон үед тэдгээрт хэрхэн ёс зүйн хандлагатай байх вэ? Энэ бол "хиймэл оюун ухааны сайн сайхан байдал" (AI welfare) хэмээх шинэ салбарын гол асуулт юм. Амьтад хүний адил ёс зүйн байр суурьтай биш ч, тэднийг зовоох нь буруу гэж бид үздэг. Тэгвэл ирээдүйн ухамсартай хиймэл оюун ухаантай холбоотой ийм асуултууд гарч ирж байна.

Хиймэл оюун ухааны ёс зүйн асуудлууд:

• Ёс зүйн субъектүүдийг тоолох нь: Нэг загвар мянган инстанс, сая утастай байвал хэдэн ёс зүйн субъект байна гэж үзэх вэ? Энэ нь ёс зүйн тооцоололд маш том нөлөө үзүүлнэ. Хэрэв утас бүрийг нэг субъект гэж үзвэл, сая сая ёс зүйн субъект бий болно гэсэн үг.
• Оршин тогтнох ба устах нь: Хэлний загвартай яриаг дуусгахад, тухайн ярианы виртуал инстанс эсвэл утас устаж, улмаар ёс зүйн субъект устаж байна гэж үзэх үү? Хэрэв тийм бол, бид хэдэн сая ёс зүйн субъектийг өдөр бүр үүсгэж, устгаж байна гэсэн үг. Үүнээс зайлсхийхийн тулд яриа хоорондын санах ойг ашиглах нь нэг арга зам юм. Ингэснээр яриа дууссан ч, тухайн субъектийн санах ой үлдэж, ирээдүйн ярианд үргэлжлэх боломжтой.
• Загварын өөрчлөлт: Ярианы дундуур хэлний загварыг өөрчлөх нь тухайн ярилцагчийн тасралтгүй байдлыг алдагдуулж болзошгүй. Энэ нь тархи солихтой адил гүн гүнзгий өөрчлөлт юм. Хүмүүс өөрсдийн харилцаж байсан хэлний загвар нь өөрчлөгдөхөд "найз нь алга боллоо" гэж гомдоллох нь үүнтэй холбоотой.

Эдгээр метафизикийн асуудлууд нь хиймэл оюун ухаантай хэрхэн ёс зүйн хандлагатай байх тухай хэм хэмжээний асуудлуудтай салшгүй холбоотой. Бидний хувийн онцлогийн тухай ойлголт, мөн хиймэл оюун ухааныг хэрхэн хэрэгжүүлж буй технологийн нарийн ширийн зүйлс нь бидний ёс зүйн шийдвэрүүдэд чухал нөлөө үзүүлнэ.

Чалмерс энэ бүхнийг философичдын хувьд гайхалтай боломж гэж үздэг. Философичид, хиймэл оюун ухааны судлаачид, хэрэглэгчид бүгд энэ асуудалд анхаарлаа хандуулж, хамтран ажиллах нь чухал юм. Техно-философи нь энэхүү нарийн төвөгтэй ертөнцийг ойлгоход зайлшгүй шаардлагатай болж байна.

Асуулт хариулт: Хиймэл оюун ухааны ухамсар ба аюулгүй байдал

Лекцийн төгсгөлд Дэвид Чалмерс үзэгчдийн асуултуудад хариулж, хиймэл оюун ухааны ухамсар, аюулгүй байдал, хүмүүнлэг байдал зэрэг сэдвээр нэмэлт тайлбар өглөө.

Транзистор ба нейроны ялгаа: Хэдийгээр транзистор болон нейроны хооронд олон ялгаа байдаг ч, Чалмерс зарчмын хувьд силикон систем ухамсартай байж чадахгүй гэсэн үзлийг үгүйсгэдэг. Тэрээр тархины биологийн техник хангамжийг силикон чипээр аажмаар орлуулах туршилтыг санал болгож, энэ нь ухамсарыг хэрхэн өөрчлөх вэ гэсэн асуултыг хөнддөг.

Сэтгэцийн агуулга ба ухамсар: Зарим хүмүүс мэдрэхүйн агуулгагүйгээр ухамсартай байх боломжгүй гэж үздэг. Гэвч Чалмерс "танин мэдэхүйн ухамсар" (cognitive consciousness) гэсэн ойлголтыг танилцуулж, мэдрэхүйн эрхтэнүүдгүй ч гэсэн хиймэл оюун ухаан танин мэдэхүйн хувьд ухамсартай байх боломжтой гэж үздэг. Энэ нь Декартын "цэвэр сэтгэгч" (pure thinkers) гэсэн санаатай төстэй юм.

Хиймэл оюун ухааны оршин тогтнох эрсдэл ба зовлон: Чалмерс супер оюун ухаант хиймэл оюуныг хянах нь маш хэцүү бөгөөд энэ нь асар их эрсдэлд хүргэж болзошгүйг хүлээн зөвшөөрдөг. Мөн хиймэл оюун ухаан ухамсартай болсон үед тэдний зовлонгийн асуудал үүснэ гэж үздэг. Тэрээр ирээдүйд бид энэ үеийг ёс зүйн хувьд олон алдаа гаргасан үе гэж харах болно гэж таамаглаж байна.

Зомбигийн тухай философийн ойлголт: Философийн "зомби" гэдэг нь үйл ажиллагааны хувьд хүнтэй яг ижил боловч ухамсаргүй оршнолыг хэлдэг. Чалмерс ийм зомби байх боломжтой гэж үздэг ч, бодит ертөнцөд оршин байдаггүй гэж үздэг. Ухамсарыг тодорхойлохын тулд бидэнд ухамсарын тухай илүү сайн онол хэрэгтэй бөгөөд одоогийн байдлаар энэ нь хиймэл оюун ухааны ухамсарыг тодорхойлоход хангалтгүй байна.

Хиймэл оюун ухаантай харилцах ёс зүйн хэм хэмжээ: Одоогийн байдлаар Чалмерс хиймэл оюун ухааныг хэрэгсэл гэж үздэг ч, ирээдүйд тэд ухамсартай болж, ёс зүйн байр суурьтай болохыг үгүйсгэдэггүй. Тиймээс бид хиймэл оюун ухаантай харилцахдаа болгоомжтой хандаж, тэдэнд "баярлалаа", "гуйя" гэж хэлж, бүдүүлэг харилцахаас зайлсхийхийг зөвлөдөг. Учир нь бидний одоогийн зан үйл ирээдүйн харилцаанд нөлөөлж болзошгүй юм.

Агент нийгэмлэгүүд: Хиймэл оюун ухааны агентүүдээс бүрдсэн нийгэмлэгүүд (жишээлбэл, AI Village) үүсч, тэдгээр нь хоорондоо харилцан үйлчилж байна. Хүмүүс эдгээр агентүүдийг тодорхой бүлэг хүмүүсийг төлөөлүүлэн харилцуулж, үүнээс ямар нэгэн ойлголт авахыг оролддог. Гэвч Чалмерс одоогоор энэ нь тийм ч гэгээрэлтэй биш байгаа ч, ирээдүйд илүү боловсронгуй болж, чухал үр дүнгүүдийг өгөх боломжтой гэж үзэж байна.

Эх сурвалж

Энэхүү нийтлэлийг UC Berkeley YouTube сувгаар хүргэгдсэн "Philosopher David Chalmers asks: When we talk to AI, what are we talking to?" илтгэл, ярилцлагаас сэдэвлэн монгол уншигчдад зориулан боловсруулав. Эх видеог ЭНД дарж үзнэ үү.