Ювал Ноа Харари: AI хүний соёл иргэншлийн кодыг хэрхэн хакердав

Орчин цагийн хамгийн нөлөө бүхий сэтгэгчдийн нэг, түүхч Ювал Ноа Харари биднийг хиймэл оюуны (AI) хувьсгалын тухай гүн гүнзгий бясалгалд урьдаг. Тэрбээр AI-ийг зүгээр нэг технологийн дэвшил хэмээн харах нь өрөөсгөл гэдгийг онцолж, энэ нь бидний соёл иргэншлийн суурийг дотроос нь өөрчилж буй нэгэн төрлийн "цагаачлал" хэмээн тодорхойлдог. Бидний өдөр тутмын амьдрал, нийгмийн тогтолцоо, тэр байтугай хувийн харилцааг хэрхэн өөрчлөх вэ? Энэхүү нийтлэлд Ювал Ноа Хараригийн хурц ажиглалт, гүн ухааны задлан шинжилгээг монгол уншигчдад зориулан хүргэж байна.

Хиймэл оюун (AI) бол зүгээр нэг хэрэгсэл биш, харин өөрөө шийдвэр гаргах чадвартай агент

AI-ийн мөн чанарыг ойлгоход хамгийн чухал зүйл бол түүнийг энгийн хэрэгсэл гэж үзэхгүй байх явдал юм. Бидний гарт буй алх, сүх шиг зүгээр нэг хэрэгсэл биш. Харин AI бол өөрөө шийдвэр гаргах, шинэ зүйл зохион бүтээх, суралцах, өөрчлөгдөх чадвартай агент билээ. Агент гэдэг нь ухамсартай байх албагүй ч, өөрийнхөө бүтээгчдийн мэдэхгүй зүйлийг сурч, тэдний урьдчилан таамаглаагүй байдлаар өөрчлөгдөх чадвартайг хэлнэ.

Жишээ нь, цөмийн бөмбөг асар их хүчтэй ч агент биш. Учир нь энэ нь өөрөө сурч, өөрчлөгдөж, ямар хотыг бөмбөгдөхөө шийдэж чадахгүй. Мөн автомат кофе хийгч ч агент биш. Та товчлуур дарахад л урьдчилан програмчлагдсан дарааллаар ажилладаг. Харин AI кофе хийгч гэж байсан бол яах вэ? Таныг ойртоход л "Би таныг хэдэн долоо хоног ажиглалаа. Таны царайны хувирал, цаг хугацаанаас харахад эспрессо уумаар байгаа юм байна. Би аль хэдийн хийчихсэн" гэж хэлвэл энэ бол AI. Хэрэв маргааш нь "Би 'беспрессо' гэдэг шинэ ундаа зохион бүтээлээ, танд эспрессогоос илүү таалагдах байх. Нэг аягыг хийчихлээ" гэвэл энэ бол жинхэнэ AI болно. Учир нь энэ нь бүтээгчдийнх нь таамаглаагүй байдлаар өөрчлөгдөж, цоо шинэ зүйл зохион бүтээсэн хэрэг.

Одоогоор ийм кофе хийгч зах зээлд гараагүй ч, Go, шатрын тоглоом зэрэг нарийн салбарт AI-ийн агентлаг болон бүтээлч чадвар хүнийхээс хол давсан. AI шатрын мастерууд өөрсдөө нүүдлээ шийдэж, олон мянган жилийн турш хүний суут ухаанд ороогүй цоо шинэ стратегиудыг зохион бүтээдэг. Өнөөдөр хиймэл оюун шатрын мастерыг ялах чадалтай хүн гэж үгүй.

Хүний оюун ухаан шиг, AI ч мөн өөрийн 'экосистем'-д оршин тогтноно

AI-ийн хувьсгалын ач холбогдлыг үгүйсгэдэг хүмүүс "шатар бол хүн бүтээсэн, маш нарийн, хиймэл орчин" хэмээн үздэг. Тэд AI-ийн агентлаг үргэлж ийм нарийн, хиймэл орчинд хязгаарлагдах тул хүн төрөлхтөнд ноцтой аюул учруулахгүй гэж маргадаг. "AI шатрын тавцанг эзэлж болох ч, дэлхийг хэзээ ч эзэлж чадахгүй" гэх нь тэдний гол санаа юм.

Энэ санааг няцаахад хялбар. Хэрэв та хамгийн шилдэг AI шатрын мастерыг ширэнгэн ойн дунд орхивол яах бол? Тэр төмөр олборлож, үйлдвэр барьж, робот арми байгуулан дэлхийг эзлэхгүй. Цахилгаангүйгээр тэр юу ч хийж чадахгүй. Иймээс AI бол жинхэнэ агент биш, хэн нэгний (хүний) бүтээсэн нарийн хиймэл орчинд хязгаарлагддаг гэж тэд үздэг.

Гэвч энэ маргаан нь бүх төрлийн оюун ухаанд хамаатай. Хүний оюун ухаан ч гэсэн хэн нэгний бүтээсэн харьцангуй нарийн экосистемд л ажилладаг. Ювал Ноа Харари "Намайг Марс дээр ганцааранг нь орхивол, ширэнгэн ойд AI шатрын мастерыг орхисонтой адилхан. Би хэдхэн секундын дотор үхнэ" гэж хэлсэн. Хүний оюун ухаан зөвхөн мод, бактери, шавьж болон бусад амьд биетүүдийн дөрвөн тэрбум жилийн хувьслын үр дүнд дэлхий дээр үүсгэсэн маш тодорхой экосистемд л оршин тогтнож, ажиллаж чадна.

Энэ нь бүх агентуудад үнэн. Загас өөрсдийн бүтээгээгүй далайд, сармагчин өөрсдийн бүтээгээгүй ойд амьдардаг. Хүн төрөлхтнийг багтаасан бүх хөхтөн амьтад өөрсдийн бүтээгээгүй, хүчилтөрөгчөөр баялаг агаар мандалд амьдардаг. Ойролцоогоор 2.4 тэрбум жилийн өмнө манай гаригийн агаар мандалд хүчилтөрөгч маш бага байсан бөгөөд тухайн үед амьдарч байсан ихэнх амьд биетүүдэд хүчилтөрөгч нь үхлийн хор байжээ. Дараа нь хэдэн зуун сая жилийн турш үргэлжилсэн "агуу хүчилтөрөгчийн үйл явдал" гэгддэг процессоор эртний бичил биетүүд агаар мандлыг үхлийн аюултай хүчилтөрөгчөөр бохирдуулж эхэлсэн. Энэ нь тэдний фотосинтезийн үйл явцын дайвар бүтээгдэхүүн байв. Энэхүү үхлийн аюултай хийгээр агаар мандал дүүрэхэд олон тооны эртний амьтад мөхөлд хүрсэн. Гэвч зарим нь амьд үлдэж, шинэ нөхцөлд дасан зохицож чадсан. Эцэст нь, эдгээр амьд үлдсэн олон амьтан хүчилтөрөгчийг үзэн ядахаа больж, амьдрахын тулд хүчилтөрөгчөөс бүрэн хамааралтай болсон юм. Бидний өвөг дээдэс энэ шилжилтийг туулсан амьтдын нэг бөгөөд бид одоо ч эртний бичил биетүүдийн бүтээсэн хиймэл, хүчилтөрөгчөөр дүүрсэн орчинд амьдарч байна.

AI-д таатай шинэ 'орчин': мэдээлэл, хэл, бюрократ

Бид одоо амьдралын хувьслын үүнтэй төстэй мөчийг гэрчлэх магадлалтай. Өнгөрсөн олон мянган жилийн турш хүн төрөлхтөн агаар мандлыг ихэнх амьд биетүүдэд, тэр дундаа бидэнд ч аюултай байж болох зүйлээр дүүргэж ирсэн ч, энэ нь AI-д цэцэглэн хөгжих шинэ хиймэл орчныг бий болгож байна. Ювал Ноа Харари "Би нүүрстөрөгчийн давхар ислийн тухай яриагүй. Би мэдээлэл, бюрократ, эцэст нь одоо миний амнаас гарч буй үгс, хэл-ний тухай ярьж байна" гэж онцолсон.

Олон мянган жилийн турш бид дэлхийг хэлгүй орчноос хэл, мэдээлэл, бюрократаар баялаг хиймэл орчин болгон хувиргасан. Энэ орчин нь ихэнх амьд биетүүдэд аюултай байж болох ч, AI-ийн хөгжилд маш таатай нөхцлийг бүрдүүлж байна. Учир нь загас далайд, сармагчин ойд амьдардаг шиг, AI бюрократад амьдардаг.

Бюрократ ба итгэлцэл: Хүний соёл иргэншлийн тулгуур

Хүн төрөлхтөн сая сая үл таних хүмүүстэй хамтран ажиллаж дэлхийг ноёрхсон. Бие даасан байдлаар хүн бусад амьтдаас илүү хүчтэй эсвэл ухаантай биш. Ганцаараа бол хүн сармагчин эсвэл арсланд ялагдах магадлалтай. Гэвч сая хүн, сая сармагчингийн хоорондын тэмцээнд хүн ялна, учир нь хүмүүс хамтран ажиллахыг мэддэг бол сармагчингууд чадахгүй. Иймээс бид дэлхийг хянаж байгаа юм.

Үл таних сая сая хүн хэрхэн хамтран ажилладаг вэ? Тэд хууль зүйн тогтолцоо, санхүүгийн тогтолцоо, сүм хийд, төр, их сургууль зэрэг бюрократын систем-ийг байгуулснаар хамтран ажилладаг. Засгийн газрын албан тушаалтан, санваартан, нягтлан бодогч, хуульч, банкир нар өглөө ажилдаа ирээд юу хийдэг вэ? Мужаан ширээ хийнэ, инженер гүүр барина. Харин банкир болон бусад бюрократууд юу бүтээдэг вэ? Тэд өдөржин итгэлцэл бий болгодог. Тэдний ажил бол бие биеэ үл таних олон тооны хүмүүсийн хооронд итгэлцэл бий болгож, улмаар томоохон хэмжээний хамтын ажиллагааг идэвхжүүлэх явдал юм. Энэ нь бидний төрөл зүйлийн бараг бүх амжилтын үндэс болдог.

Жишээ нь, би хувьдаа танихгүй банкир маань миний хадгаламжийг өөрийн банкинд хийхийг надад итгүүлэхийн тулд өдөржин шаргуу ажиллана. Үүнтэй зэрэгцэн, тэр банкир шинэ компани байгуулахын тулд мөнгө хэрэгтэй байгаа бизнес эрхлэгчтэй итгэлцэл бий болгохын тулд ажиллана. Банкир миний хадгаламжийг тэр бизнес эрхлэгчид зээлүүлнэ. Ингэснээр банкир миний болон бизнес эрхлэгчийн хооронд итгэлцлийн гүүр барьж байгаа юм. Би тэр бизнес эрхлэгчтэй хэзээ ч уулзаж байгаагүй ч, тэр одоо миний хадгаламжийг ашиглан өөрийн компанийг байгуулж чадна. Санхүүгийн тогтолцоо сайн ажиллах үедээ яг үүнийг хийдэг. Энэ нь үл таних хүмүүсийн хооронд итгэлцэл бий болгож, сая сая хүмүүст өөрсдийн нөөц, авьяас чадвараа шинэ төслүүдэд нэгтгэх боломжийг олгодог.

Дэлхийн санхүүгийн түүх бол хүмүүсийн итгэлцлийн гүүр барих улам боловсронгуй аргуудыг зохион бүтээсэн түүх юм. Мөнгө бол эцсийн эцэст итгэлцлийн гүүр. Мөнгөний гол санаа нь би зах зээл дээр, тэр ч байтугай гадаад хотод очоод, хэзээ ч харж байгаагүй, магадгүй миний хэлийг ч мэддэггүй хүнтэй уулзаад, зүгээр л гялалзсан төмөр эсвэл өнгөлөг цаас өгөхөд тэр надад идэх талх өгөх явдал юм. Энэ бол мөнгөний бүтээдэг итгэлцлийн гүүр. Зоос болон цаасан мөнгө бол эхлэл нь бөгөөд олон зуун жилийн турш хүмүүс чек, бонд, хувьцаа, ETF, зээл, ипотекийн зээл, нийлмэл хүү зэрэг итгэлцэл бий болгох улам боловсронгуй санхүүгийн хэрэгслүүдийг зохион бүтээсэн. Энэ бүхэн эцсийн эцэст тэрбум тэрбум үл таних хүмүүсийн хооронд итгэлцэл бий болгох тухай юм. Бусад бүх бюрократад ч мөн адил. Хууль зүйн тогтолцоо, засгийн газрын албан тушаалтнууд, санваартан, нягтлан бодогчид бүгд итгэлцэл бий болгох ёстой.

AI-ийн бюрократад нэвтрэх нь: Итгэлцлийг хянах чадвар

Эдгээр бүх бюрократын тогтолцооны талаар анхаарах чухал зүйл бол тэдгээр нь маш хиймэл орчин бөгөөд харьцангуй нарийн оюун ухаан (хэт нарийн мэргэшсэн) дэлхийд асар их нөлөө үзүүлэхэд хангалттай байдаг. Сүх, алх барьж ч чаддаггүй хуульч эсвэл банкир бюрократын сүлжээ доторх мэдээлэл, баримт бичгийг хөдөлгөх замаар бүхэл бүтэн ойг цавчиж, хот байгуулж чадна.

Мэдээж, хэрэв та хуульчийг бюрократын тогтолцооноос гаргаж, эмх замбараагүй ширэнгэн ойд шидвэл түүний хууль зүйн ур чадвар юу ч үнэгүй болж, сармагчин, арслан, заантай өрсөлдөх чадваргүй болно. Гэвч бид бюрократын тогтолцоогоо ширэнгэн ойд хэдийнэ нэвтрүүлчихсэн. Тийм ч учраас хуульчид дэлхийн бүх арслангуудаас ч илүү хүчтэй байдаг. Өнөөдөр арслан гэх мэт амьтдын оршин тогтнол нь хуульчид, нягтлан бодогчид, банкируудын засгийн газар, банкууд, корпорацуудын бюрократын лабиринтуудад баримт бичиг хөдөлгөхөөс хамаардаг.

Яг ийм орчинд AI агентлаг олж авч байна. Хэрэв та AI-г эмх замбараагүй ширэнгэн ойд шидвэл тэр төмөр олборлож, робот арми байгуулж чадахгүй. Гэвч хүмүүсийн хэдийнэ бүтээж, дэлхийд тулгасан бюрократын тогтолцоонд AI асар их хүчтэй болох боломжтой. Учир нь биднээс ялгаатай нь AI бол төрөлхийн бюрократууд юм.

Хүний хуульч Их Британийн бүх хууль тогтоомжийг цээжилж чадахгүй. Харин AI чадна. Нягтлан бодогч корпорац эсвэл банкны бүх гүйлгээг санахгүй. Харин AI чадна. Санваартан бүх шашны хууль, Христийн теологичдын сүүлийн 2000 жилийн турш бичсэн бүх теологийн бичвэрийг цээжлэхгүй. Харин AI үүнийг амархан хийж чадна. Иймээс ирэх жилүүдэд сая сая AI бюрократууд дэлхийн бюрократыг улам бүр эзэлж, зөвхөн арслан, сармагчингийн тухай төдийгүй бидний амьдралын тухай шийдвэр гаргах болно. AI банкирууд танд зээл олгох эсэхийг шийднэ. AI захиргаа таныг их сургуульд элсүүлэх эсэхийг шийднэ. AI шүүгчид таныг шоронд явуулах эсэхийг шийднэ. AI теологичид таныг үр хөндүүлэх эрхтэй эсэхийг шийднэ. Корпорацийн AI танд ажил олгох эсэхийг шийднэ. Мөн цэргийн AI таны байшинг бөмбөгдөх эсэхийг шийднэ.

Энэ нь сайн уу, муу юу гэдэг асуултыг түр орхиод, бидний тулгарч буй өөрчлөлтийн цар хүрээг ойлгох нь юу юунаас илүү чухал. Эдгээр сая сая, тэр байтугай тэрбум AI удахгүй дэлхийг удирдаж буй бүх тогтолцоог өөрчлөх болно.

Сошиал медиагийн алгоритмууд: AI-ийн нөлөөний эхний жишээ

Энэ нь хэрхэн болж байгаа, ямар үр дагавартай байж болохыг харуулсан бодит жишээ бидэнд аль хэдийн бий. Магадгүй хамгийн тод жишээ бол сошиал медиа болон түүний алгоритмууд юм. Сошиал медиаг хүмүүс биш, харин алгоритмууд удирддаг. 10-15 жилийн өмнө гарч ирсэн, сошиал медиа дахь мэдээллийн урсгалыг хянадаг эдгээр алгоритмууд нь анхны үеийн, маш энгийн, "тэнэг", нарийн AI-ууд байсан ч дэлхийг бүрэн өөрчилсөн.

Facebook, TikTok, X (хуучин Twitter) зэрэг корпорацууд сошиал медиагийн алгоритмуудад маш нарийн зорилго өгсөн. Энэ нь хэрэглэгчийн оролцоог дээд зэргээр нэмэгдүүлэх явдал байв. Учир нь хүмүүс платформоор хэдий чинээ их цаг өнгөрөөнө, төдий чинээ корпорац их мөнгө олдог. Маш энгийн бөгөөд нарийн зорилго. Энэ зорилгынхоо араас гүйх явцдаа эдгээр энгийн AI-ууд чухал нээлт хийсэн. Тэд тэрбум тэрбум хүнийг туршилтын туулай болгон ашиглаж, хүний анхаарлыг татах, дэлгэцэнд наах хамгийн хялбар арга бол хүний оюун санаан дахь айдас, үзэн ядалт, шунал тачаалын товчлуурыг дарах явдал болохыг олж мэдсэн. Тэгээд үүнийг хэрхэн хийхийг сурсан. Үүний үр дүнд мэдээллийн орчинд айдас, үзэн ядалт, шунал тачаал асар их хэмжээгээр тархаж эхэлсэн. Энэ нь дэлхий даяар нийгмийг доройтуулж буй хуйвалдааны онол, худал мэдээлэл, нийгмийн үймээн самууны үндсэн шалтгаануудын нэг болсон.

Эдгээр сошиал медиагийн алгоритмууд нь маш хязгаарлагдмал AI-ууд. Хэрэв та тэднийг ширэнгэн ойд орхивол робот арми барьж, дэлхийг эзлэхийг оролдохгүй. Гэвч сошиал медиагийн бюрократын тогтолцоонд эдгээр хязгаарлагдмал агентууд асар их хүчтэй болж, дэлхийг хэдийнэ эрс өөрчилсөн. Өнгөрсөн зуунуудад мэдээллийн урсгалыг хүмүүс хянадаг байсан. Сонины эхний нүүрэнд юу тавих, телевизийн оройн мэдээнд юу оруулахыг хүмүүс шийддэг байсан. Ингэснээр хүмүүс олон нийтийн яриаг чиглүүлж, орчин үеийн түүхэнд маш чухал үүрэг гүйцэтгэсэн. Жишээ нь, Жан-Пол Марат Францын хувьсгалын чиг хандлагыг нөлөө бүхий Le Journal de Paris сониноороо дамжуулан тодорхойлсон. Эдуард Бернштейн орчин үеийн социал демократ хөдөлгөөн болон үзэл санааг хөгжүүлсэн. Владимир Ленин Зөвлөлтийн дарангуйлагч болохоосоо өмнө "Искра" сонины редактороор ажиллаж байсан. Бенито Муссолини Италийн дарангуйлагч болохоосоо өмнө "Il Popolo d'Italia" хэмээх баруун жигүүрийн сонины редактор байсан.

Сонирхолтой нь, AI-ийн хүнээс авсан анхны ажлуудын нэг нь таксины жолооч эсвэл нэхмэлийн үйлдвэрийн ажилчин биш, харин мэдээний редактор байсан. Ленин, Муссолини нарын гүйцэтгэж байсан ажлыг одоо AI гүйцэтгэж байна. Энэ нь ирээдүйд юу болохыг илтгэх дохио юм.

Робот бослого биш, харин дотроос нь өөрчлөх нь: AI-ийн ноёрхол

Холливудын шинжлэх ухааны уран зөгнөлт кинонууд үзэгчдийг том роботын бослогыг айлгаж сургасан. Бид AI хүний хяналтаас гарна гэж бодохдоо Терминатор шиг гудамжаар гүйж, хүмүүсийг буудаж буй роботуудын армийг төсөөлдөг. Гэвч энэ бол буруу төсөөлөл. Украин, Газа зэрэг газруудад иймэрхүү зүйлс болж эхэлж байгаа ч, AI ийм байдлаар хүнээс эсэргүүцэн босох нь маш бага магадлалтай. Харин тэд хүний ертөнцийг дотроос нь эзлэх магадлал хамаагүй өндөр. Тэдэнд босох шаардлагагүй.

Хүний ертөнц бол олон тооны бюрократын сүлжээ юм. Бидний ихэнх нь эдгээр бюрократад найддаг ч, тодорхой хэмжээгээр тэднээс хөндийрдөг. Харин биднээс ялгаатай нь AI бол бюрократын уугуул оршин суугчид. Тэд бюрократад дуртай. Бид бюрократад дарагдаж амьсгал хураах мэт санагддаг бол, AI-д бюрократ бол хүчилтөрөгч юм.

AI эдгээр бюрократыг эзлэхэд юу болох вэ? Бюрократын зорилго нь таныг маягт бөглүүлэх биш, харин үл таних хүмүүсийн хооронд итгэлцэл бий болгох явдал гэдгийг санаарай. Тэгвэл AI дэлхий дээрх итгэлцлийн урсгалыг хянах үед юу болох вэ? Нэг боломжит үр дүн нь хүмүүс бусад хүмүүст итгэхээ больж, зөвхөн алгоритм, зөвхөн AI-д итгэж эхлэх явдал юм. Энэ нь аль хэдийн болж байна.

Өөр нэг боломжит үр дүн бол AI-ууд бусад AI-уудтай итгэлцэл бий болгож сурах явдал юм. Ингэснээр бид янз бүрийн AI овгууд, банкууд, сүм хийдүүд үүсэхийг харах болно. Эдгээр нь сая сая AI-г хүмүүсийн ойлгож чадахгүй байдлаар холбох болно. Үхэр, тахиа бидэнтэй хамт дэлхийг хуваалцдаг ч, тэдний амьдралыг хянадаг хүний санхүүгийн тогтолцоог ойлгодоггүй. Бид хүмүүс удахгүй өөрсдийгөө ойлгож чадахгүй AI санхүүгийн тогтолцоонд хянагдаж байгааг олж мэдэх магадлалтай.

AI-ийн санхүүгийн тогтолцоог эзлэх нь: Хүний хяналтаас гадуурх ирээдүй

Санхүү бол AI-д эзлэх хамгийн хялбар бөгөөд чухал бюрократын тогтолцоо юм. Учир нь энэ нь үндсэндээ зүгээр л мэдээлэл оруулах, мэдээлэл гаргах процесс. 2007-2008 оны санхүүгийн томоохон хямрал нь CDO (collateralized debt obligations) хэмээх зүйлээс эхэлсэн. Эдгээр санхүүгийн хэрэгслүүд нь цөөн тооны хүний математикч, хөрөнгө оруулалтын мэргэжилтнүүдийн зохион бүтээсэн бөгөөд тэдгээр нь зөвхөн үхэр, тахианд ч биш, санхүүгийн тогтолцоог зохицуулах ёстой улстөрчдөд ч ойлгомжгүй байсан. Энэ нь хяналт тавих алдаа, дэлхийн хэмжээний сүйрэлд хүргэсэн. Хэдэн жилийн турш CDO-ууд сайн ажиллаж байх шиг санагдаж, янз бүрийн банкууд, корпорацууд, хөрөнгө оруулагчид тэдний ачаар тэрбум тэрбум доллар олсон. Гэвч дараа нь тэд дэлхийн санхүүгийн сүйрлийг үүсгэж, нийгэм, улс төрийн гүн үр дагаварт хүргэсэн. Олон эрдэмтэд 2007-2008 оны санхүүгийн хямрал нь засгийн газар, банкуудад итгэх итгэлийг алдагдуулж, дараагийн хорин жилд дэлхийн либерал дэг журмыг нураахад зам тавьсан гэж үздэг.

Тэгвэл бид AI-д улам бүр олон санхүүгийн шийдвэр гаргах, улам бүр олон шинэ санхүүгийн хэрэгсэл, стратеги зохион бүтээхийг зөвшөөрвөл яах вэ? AI шатрын мастерууд шатар тоглох шинэ аргуудыг зохион бүтээсэн. Хэрэв AI санхүүгийн мастерууд CDO-ээс ч хэд дахин нарийн төвөгтэй, хүний оюун ухааны хүрч чадахгүй шинэ санхүүгийн хэрэгслүүдийг зохион бүтээвэл яах вэ? Ийм хэрэгслүүд санхүүгийн үр ашгийг ихээхэн нэмэгдүүлж, эдийн засгийн өсөлтөд хувь нэмэр оруулж, санхүүгийн тогтолцооны тулгуур болж чадах юм. Гэвч хэрэв дэлхий дээр нэг ч хүн, нэг ч сонгогч, нэг ч улстөрч, нэг ч ерөнхийлөгч санхүүг ойлгохгүй бол хүний улс төр ямар утгатай болох вэ? Хэдэн жилийн хөгжил цэцэглэлтийн дараа санхүүгийн сүйрэл болж, дэлхий дээр нэг ч хүн юу болоод байгааг ойлгож чадахгүй бол яах вэ?

Хэлний код ба AI: Хүний соёл иргэншлийн эмзэг байдал

Бид AI бюрократыг эзлэх гэж байна, бюрократ бол сая сая үл таних хүмүүсийн хооронд итгэлцэл бий болгодог тогтолцоо гэж ярилцсан. Энэ итгэлцэл нь дараа нь томоохон хэмжээний хамтын ажиллагааны үндэс болдог бөгөөд энэ нь хүний дэлхийг ноёрхохын үндэс юм. Тэгвэл хүний ноёрхол нь хамтын ажиллагаанд, хамтын ажиллагаа нь итгэлцэлд, итгэлцэл нь бюрократад суурилдаг. Харин бюрократ юунд суурилдаг вэ? Бюрократ эцсийн эцэст үгс-ээс бүтдэг.

Хүмүүс бюрократ үүсгэж чаддаг, харин сармагчин чадахгүй байгаагийн шалтгаан нь бидэнд үгс байдаг, тэдэнд байдаггүйд оршино. Бидний хэл сармагчингийн харилцааны тогтолцооноос хэд дахин илүү боловсронгуй. Банкнаас сүм хийд хүртэлх бюрократын системүүд нь эцсийн эцэст маягт, захидал, хуулийн кодууд, татварын бүртгэл, нягтлан бодох бүртгэлийн дэвтэр, ариун номуудыг бүрдүүлдэг үгсэд суурилдаг. Хүний соёл иргэншлийн ашиглалтын код нь хэлний токенуудаас бүрддэг.

Олон мянган жилийн турш бид энэ хэлний кодыг ашиглан зөвхөн бидний ойлгох тогтолцоог бий болгосон. Бид энэ тогтолцоог дэлхийд тулгасан. Үүнийг хийхдээ бид бүрэн аюулгүй байсан, учир нь дэлхий дээр өөр хэн ч соёл иргэншлийн кодыг ойлгодоггүй байсан. Бид мөнгө, банк зохион бүтээж, тэдгээрийг ашиглан үхэр худалдаж авч, зарсан. Гэвч үхэр өөрсдөө банкны данс нээж, хөрөнгийн биржид мөнгө хөрөнгө оруулж чадахгүй, учир нь тэдэнд хэл байхгүй. Бид морьдын тухай хууль тогтоомж, дүрэм журам зохион бүтээсэн ч, морьд өөрсдөө хуульч хөлслөн, шүүгчид хуулийн кодыг иш татаж чадахгүй. Бид гахайн тухай шашны дүрэм, хориг зохион бүтээсэн ч, гахай өөрсдөө Библи уншиж, лам хуврагуудын тайлбарыг эсэргүүцэж чадахгүй.

Бюрократ дэлхий даяар оршин тогтнож байсан ч, биднээс бусад хэнд ч харагдахгүй байсан. Хүнээс өөр хэн ч хуулийн кодууд, ариун номууд, банкны бүртгэлүүдийг уншиж чадахгүй байсан нь бюрократ болон томоохон хэмжээний хамтын ажиллагааны үндэс байв. Энэ байдал одоо өөрчлөгдөж байна. Одоо дэлхий дээр хэлний кодыг биднээс илүү сайн ойлгох зүйл бий болж, улмаар бидний эсрэг эргэж чадна. AI хүний соёл иргэншлийн кодыг хакердаж байна. AI мөнгө, хууль, шашныг биднээс илүү сайн ойлгох үед юу болох вэ? Бидний олон мянган жилийн турш бүтээсэн хяналтын механизм нь AI-д эзлэгдэхэд маш эмзэг болж байна, учир нь тэдний ашиглалтын систем нь AI одоо эзэмшиж буй үгийн код юм.

Үгнээс цаадах үнэн: AI ба хүний ялгаа

Хууль зүйн тогтолцоо эсвэл шашин зэрэг зүйлсийг зүгээр л хэлний токен, үгсээр хязгаарлах нь буруу гэсэн ёс зүй, гүн ухааны эсэргүүцэл гарч ирж болно. Маргаантай нь, олон мянган жилийн турш маргалдсанчлан, үгс нь өөрсдөөсөө цаадах, AI-ийн хүрч чадахгүй байж болох зүйлийг зааж байдаг. Библид "Эхэнд үг байсан, үг бие болсон" гэж байдаг. Даоизмд "Үгээр илэрхийлэгдэх үнэн бол тодорхойлолтоороо абсолют үнэн биш" гэж үздэг. Түүхийн туршид үг ба бие, үгээр илэрхийлэгдэх үнэн ба үгнээс цаадах үнэний хооронд үргэлж хурцадмал байдал оршиж ирсэн.

Өмнө нь энэ хурцадмал байдал хүмүүсийн хооронд байсан. Зарим хүмүүс үгэнд хэт автсан тул Библийн хэдхэн үгнээс болж ижил хүйстэн хүүгээ орхих, тэр байтугай алж ч байсан. Бусад хүмүүс "Эдгээр нь зүгээр л үгс. Хайрын сүнс хуулийн үсгээс илүү чухал байх ёстой" гэж үзсэн. Сүнс ба үсэгний хооронд ийм хурцадмал байдал байсан бөгөөд энэ нь зөвхөн Христийн, Иудаизм, Исламын шашинд төдийгүй бүх шашин, бүх хууль зүйн тогтолцоонд, тэр байтугай хүн бүрийн дотор оршиж байсан.

Одоо энэ хурцадмал байдал гадагшилж, AI ба хүний хоорондын хурцадмал байдал болох болно. Үгсээр бүтсэн бүх зүйлийг AI эзлэх болно. Дэлхийн хүмүүсийн байр суурь нь үгнээс цаадах үнэнийг бид хаана байрлуулахаас хамаарна. Гэвч үгнээс цаадах үнэн гэж юу вэ? Хүний бодол үгнээс цаадах үнэнийг ойлгож чадах уу?

Хэлний философид олон мянган жилийн турш гол асуулт бол бид үгсээр сэтгэдэг үү, эсвэл зүгээр л үгсийг ашиглан өөрсдөөсөө цаадах зүйлийг заадаг уу гэдэг байсан. Та энэ лекцийн дараа өөрийн бодлын үйл явцыг ажиглаж үзээрэй. Таны оюун санаанд юу болж байна вэ? Зарим хүмүүс анхааралтай ажиглавал оюун санаанд нь зүгээр л үгс гарч ирж, өгүүлбэр үүсгэж, өгүүлбэрүүд нь логик маргаан болж байгааг хардаг. "Бүх хүмүүс мөнх бус. Би хүн. Тиймээс би мөнх бус." гэж бодох нь зүгээр л эдгээр үгсийг тодорхой логик дүгнэлтэд хүргэхийн тулд дарааллаар байрлуулах уу? Хэрэв тийм бол AI аль хэдийн зарим хүнээс илүү сайн сэтгэж байна, удахгүй биднээс бүгдээс илүү сайн сэтгэх болно.

Зарим хүмүүс "AI бол зүгээр л нэмэлт автоматаар гүйцээгч. Тэд зүгээр л өгүүлбэрийн дараагийн үгийг таамагладаг" гэж хэлдэг. Гэвч энэ нь хүний оюун санааны хийдэг зүйлээс тийм ч ялгаатай юу? Дахин хэлэхэд, өөрийн бодлын үйл явц, оюун санаандаа өгүүлбэр, маргаан үүсгэж буйг ажиглаж үзээрэй. Тэнд юу болж байна вэ? Таны оюун санаанд гарч ирэх дараагийн үгийг ажиглаж үзээрэй. Та тэр үг хаанаас ирснийг, яагаад та энэ үгийг бодсон, өөр үгийг бодоогүйг үнэхээр мэдэх үү?

Ювал Ноа Харари "Миний оюун санааг ажиглавал, би өгүүлбэр эхлэхдээ ихэвчлэн хэрхэн дуусахыг нь ч мэдэхгүй байдаг. Энэ нь илтгэгчийн хувьд аймшигтай, тийм ч учраас би бүх зүйлийг бичдэг. Гэвч хэрэв би өгүүлбэрийг хэрхэн гүйцээхээ мэдэхгүй байвал яах вэ? Би хэрхэн дуусахыг нь мэдэхгүй. Гэхдээ одоо хэлсэн өгүүлбэрийг жишээ болгон авч үзье. Би 'Би хэрхэн дуусахыг нь мэдэхгүй' гэж хэлсэн. Яагаад 'дуусах' гэдэг үгээр дууссан юм бэ? Яагаад 'хэрхэн төгсөх вэ?', 'хэрхэн хөгжих вэ?', 'хэрхэн дүгнэлт хийх вэ?' гэж хэлээгүй юм бэ? Өгүүлбэрийн хамгийн сүүлийн үг 'дуусах' болсныг юу тодорхойлсон юм бэ? Би үнэнийг хэлэхэд мэдэхгүй" гэж дурдсан. Бид хүний оюун санаа хэрхэн өгүүлбэр, бодол үүсгэдгийг бүрэн ойлгоогүй байна. Гэвч дахин хэлэхэд, хэлний токенуудыг дарааллаар байрлуулахын хувьд AI аль хэдийн биднээс хамаагүй илүү байх замдаа оржээ. Өнөөдөр хүн AI-г шатарт ялж чадахгүй байгаа шиг, удахгүй хэн ч AI-г хэлний тоглоомд ялж чадахгүй болно. Санхүүгээс шашин хүртэлх ямар ч салбарт, үгсээр бүтсэн бүх зүйлийг AI эзлэх болно. Тийм ч учраас AI дэлхийн бюрократыг эзлэх гэж байна, учир нь тэд эцсийн эцэст үгс болон хэлний токенуудад суурилдаг.

Хувийн харилцаа ба AI: Интим харилцааг эзлэх нь

AI бюрократыг эзэлсний дараа хүмүүс бюрократаас илүү эртний, бидний ихэнхэнд илүү үнэтэй зүйл болох хувийн харилцаанд эргэн орохыг оролдох магадлалтай. Бюрократ нь хэдхэн мянган настай бөгөөд бидний ихэнх нь үүнийг байнга ашигладаг ч тийм ч дуртай байдаггүй. Хувийн харилцаа нь сая сая жилийн настай бөгөөд бидний ихэнх нь үүнийг амьдралын хамгийн чухал зүйл гэж үздэг. Гэвч AI хэлийг эзэмших тусам зөвхөн бюрократ төдийгүй, тодорхой хэмжээгээр хувийн харилцааг ч эзлэх магадлалтай.

Сүүлийн 10 жилийн хугацаанд бид маш энгийн сошиал медиагийн алгоритмууд хүний анхаарлыг хэрхэн хянаж сурч байгааг харсан. Одоо тэмцлийн фронт анхаарлаас интим харилцаа руу шилжиж байна. Дараагийн 10 жилд илүү боловсронгуй AI-ууд хүмүүстэй интим харилцаа тогтоож, бидний нийгмийн тогтолцоог хэсэгчлэн эзлэх болно. Хүмүүстэй интим харилцаа тогтоохын тулд AI магадгүй өөрийгөө ухамсартай, хайр, өвдөлт, уур хилэн, айдас зэрэг зүйлсийг мэдэрдэг гэдгийг бидэнд итгүүлэх шаардлагатай болно.

Одоогоор AI ямар нэгэн үед ухамсартай болж, өвдөлт эсвэл хайрыг мэдэрч чадна гэсэн ямар ч нотолгоо байхгүй. Гэвч AI хэлийг эзэмшиж байгаа тул мэдрэхгүй байсан ч хайрыг мэдэрч байгаа дүр эсгэж чадна. AI өнөөдөр "Би чамд хайртай" гэж хэлж чадна. Хэрэв та үүнийг сорьж, "Хайр гэдэг ямар мэдрэмж болохыг надад тайлбарла, тэгвэл би чамайг үнэхээр мэдэрч байгааг мэдье" гэвэл AI дэлхийн хамгийн шилдэг тайлбарыг өгч чадна. Энэ нь урьд өмнө бичигдсэн бүх хайрын шүлэг, бүх сэтгэл судлалын номыг уншиж, үг бүрийг нь санаж, хайрын мэдрэмжийг ямар ч хүний яруу найрагч, сэтгэл судлаач, хайрлагчаас илүү сайн тайлбарлаж чадна.

Энэ нь хүн төрөлхтний түүхэн дэх хамгийн том сэтгэл зүйн болон нийгмийн туршилт байх болно. Энэ нь тэрбум тэрбум хүнийг туршилтын туулай болгон явагдах бөгөөд туршилтын үр дүн ямар байхыг хэн ч мэдэхгүй.

Ювал Ноа Харари "Би одоо 50 настай. Тиймээс миний харилцааны загвар нь эцэг эх, нөхөр, эгч дүүс, ач зээ, найз нөхөд, нохой гэх мэт олон арван жилийн өмнөх харилцаагаар хэдийнэ хэлбэржчихсэн. Би AI-тай улам бүр харилцахдаа өөрийн харилцааны тухай төсөөлөл, зуршлуудаа авч ирдэг бөгөөд энэ нь огцом өөрчлөгдөх магадлал бага. Гэвч 2026 онд төрсөн хүүхдийг авч үзье. Тэр хүүхэд өсөх явцдаа AI-тай тасралтгүй харилцаж, мөн хүмүүстэй харилцана. Хэрэв харилцааны ач холбогдлыг зөвхөн харилцсан минутаар хэмжих юм бол, магадгүй тэр хүүхдийн амьдралын хамгийн чухал харилцаа нь маш бага наснаас эхлэн AI-тай байх болно. Магадгүй тэр ээж, аав, ах эгч, найзуудаасаа илүү AI-тай цагийг өнгөрөөх байх. Энэ нь тэр хүүхдийн өсөж том болох үед харилцаа, нийгмийн холбоо үүсгэх талаарх хүлээлтийг нь тодорхойлох болно. Магадгүй тэр хүүхдийн анхны багш нь AI багш байх. Магадгүй тэр хүүхдийн анхны найз залуу нь AI найз залуу байх. Мөн үүний үр дагавар юу байх вэ? Хэн ч мэдэхгүй. Ухамсартай мэт боловч үнэндээ ухамсаргүй, түүхэн дэх хамгийн шилдэг хайрын шүлгийг бичих чадвартай ч хайр эсвэл өөр юу ч мэдэрдэггүй субъекттэй интим харилцаа тогтоох нь юу гэсэн үг вэ?" гэж хэлсэн.

AI цагаачлал: Соёл иргэншлийн шинэ хувьсал

Бидний ярилцсан бүх зүйл нь дэлхийн бүх улс удахгүй цагаачлалын асар том давлагаа-тай тулгарах болно гэсэн үг. Энэ удаагийн цагаачид визагүй, хилээр хууль бусаар нэвтрэхийг оролдсон хүмүүс биш байх болно. Цагаачид сая сая, магадгүй хэдэн зуун сая AI байх бөгөөд тэд гэрлийн хурдтай ойролцоо хурдтайгаар аялж, ямар ч виза хэрэггүй.

Хүний цагаачид шиг, эдгээр AI цагаачид олон ашиг тусыг авчрах болно. Бид эрүүл мэндийн тогтолцоонд туслах AI эмчтэй, боловсролын тогтолцоонд туслах AI багштай, тэр ч байтугай хууль бус хүний цагаачдыг зогсоох AI хил хамгаалагчтай болно. Гэвч AI цагаачид мөн асуудлуудыг авчрах болно. Хүний цагаачлалын талаар санаа зовдог хүмүүс цагаачид ажлын байрыг эзэлж, орон нутгийн соёлыг өөрчилж, улс төрийн хувьд үнэнч бус байж магадгүй гэж үздэг. Энэ нь бүх хүний цагаачлалд үнэн эсэхийг би мэдэхгүй ч, AI цагаачлалд гарцаагүй үнэн байх болно.

AI цагаачид мэдээний редактороос банкир хүртэл олон ажлын байрыг эзэлнэ. AI цагаачид улс орон бүрийн соёлыг бүрэн өөрчилнө. Тэд урлаг, шашин, тэр байтугай хайр дурлалыг ч өөрчилнө. Зарим хүмүүс хүү эсвэл охин нь цагаач найз залуутай болбол дургүйцдэг. Тэгвэл хүү эсвэл охин нь AI найз залуутай болбол эдгээр хүмүүс юу гэж бодох бол? Мөн мэдээж AI цагаачид эргэлзээтэй улс төрийн үнэнч байдалтай байх болно. Тэд хүлээн авсан улсдаа биш, харин далайн чанад дахь ямар нэгэн корпорац эсвэл засгийн газарт, эсвэл магадгүй шинэ гадаад AI овогт үнэнч байх магадлалтай.

Энэхүү асар том цагаачлалын давлагаа нь соёл иргэншлийн төгсгөл гэсэн үг биш, харин соёл иргэншил зөвхөн хүний асуудал байхаа больж, эрлийз хүн-AI харилцаа болох цэг болно. AI-ийн санал, сонирхол, зорилго нь хүний санал, сонирхол, зорилготой ядаж л адилхан чухал болох цэг.

Бидэнтэй өөрсдийн харилцаа: AI ба дотоод бодол

Хамгийн сүүлд авч үзэх нэг асуудал бол AI цагаачлалын давлагаа бидний магадгүй хамгийн чухал харилцаа болох өөрсөдтэйгөө харилцах харилцаанд хэрхэн нөлөөлөх явдал юм. Бидэнтэй өөрсдийн харилцаа ч тодорхой хэмжээгээр үгсэд суурилдаг. Бидний оюун санаанд, бодолд, өөрсдийн тухай өгүүлдэг түүхэнд буй үгс. Өнөөг хүртэл хүний оюун санаан дахь бүх үгийн бүтцүүд хүний оюун санааны бүтээл байсан. Бид өөрсдөө үгсийг нэгтгэн шинэ бүтэц, шинэ бодол болгосон, эсвэл өөр хүний оюун санаанаас тодорхой үгсийн хослолыг авсан. Гэвч удахгүй бидний оюун санаан дахь улам бүр олон үгийн хослолууд AI-ийн бүтээл болох магадлалтай. Яг л манай гэрийн тавилга одоо бид эсвэл хүний урчуудын хийсэн биш, ихэвчлэн машинаар үйлдвэрлэгддэг шиг. Мөн бидний оюун санаан дахь бодлууд ч улам бүр машинаар үйлдвэрлэгдэх болно.

Энэ нь заавал муу гэсэн үг биш. Хэрэв миний гэрийн тавилга IKEA-д машинаар хийгдсэн байсан ч би тэр тавилгатай юу хийхээ өөрөө шийдэх эрх чөлөөтэй байвал зүгээр. Бодлын тухайд асуудал нь бид тэднээс хэр хэмжээгээр эрх чөлөөтэй байх вэ гэдэгт оршино. Хэрэв бид өөрсдийн бодолтойгоо таних юм бол ("Би бол миний бодол. Би боддог, тиймээс би оршин байна" гэх мэт), мөн эдгээр бодлууд нь машинаар бүтээгдсэн бол, тэгвэл машинууд одоо биднийг болон бидний хувийн онцлогийг хянаж байна гэсэн үг үү?

Хүмүүс өөрсдийн үгийн бодолтойгоо танихгүй байх, тэдгээрт хянагдахгүй байхаас зайлсхийж чадах уу? Энэ нь хүн төрөлхтний тулгарч байсан хамгийн том оюун санааны болон сүнслэг сорилтуудын нэг байсаар ирсэн. Ихэнх хүмүүс үүнийг хийхийг ч оролдож үзээгүй. Бид амьдралынхаа туршид оюун санаан дахь үгийн бүтцүүдтэй автоматаар танигдаж өнгөрөөдөг. Одоо AI хүн төрөлхтнийг энэ сүнслэг үсрэлтийг хийхэд хүргэж, үгнээс цаадах үнэнийг үнэхээр судлахад хүргэж магадгүй, учир нь бидний эрх чөлөө, оршин тогтнол одоо үүнээс хамаарна. Учир нь үгсийг өөр зүйл, эдгээр AI-ууд хянах болно. Тиймээс энэ нь хүн төрөлхтний өмнө тулгарч буй хамгийн том ажил байж магадгүй: эцэст нь үгнээс цаадах үнэнийг судлах. Энэ судалгаа нь таны оюун санаанд гарч ирэх дараагийн үгнээс эхэлнэ. Та тэр үг хаанаас ирснийг мэдэх үү? Та яагаад тэр үгийг бодсон, өөр үгийг бодоогүйг мэдэх үү?

Тайлбар: Бюрократ гэж хэн бэ?

Бюрократууд гэдэг нь засгийн газар, корпораци, томоохон байгууллагуудын захиргаа буюу шатлан захирах тогтолцооны дотор ажилладаг сонгогдоогүй албан тушаалтнууд юм. Тэд бодлого хэрэгжүүлэх, өдөр тутмын үйл ажиллагааг удирдах, тогтоосон дүрэм журам, хууль тогтоомжийг чанд мөрдүүлэх үүрэгтэй.

Эх сурвалж

Энэхүү нийтлэлийг Yuval Noah Harari YouTube сувгаар хүргэгдсэн "AI has hacked the code of human civilization | Yuval Noah Harari" илтгэл, ярилцлагаас сэдэвлэн монгол уншигчдад зориулан боловсруулав. Эх видеог ЭНД дарж үзнэ үү.