ТАСРАЛТГҮЙ ХЯЛБАРЧИЛЖ, ҮР АШИГТАЙ БОЛГОХ ЧАРМАЙЛТ ДЭЛХИЙГ АЮУЛТАЙ БОЛГОХ УУ?

Тойрог уулзвараас хөрөнгийн зах зээл хүртэл — бүхнийг тасралтгүй хялбарчилж, үр ашигтай болгох чармайлт дэлхийг улам аюултай болгож байж мэднэ.

Корнеллийн их сургуулийн математикийн профессорууд Стивен Строгац, Алекс Таунсенд нарын The Guardian-д бичсэн нэгэн нийтлэлийг хөрвүүлэв.  

Галт тэргэнд мөр мөрөө шүргэлцэн шахцалдаж байхад хажуугийн хүн ханиалгаж, найтаана. Бид бүгд л ийм байдалд орж үзсэн. Томуугийн вакцин хийлгэсэн нь бага ч болов тайвшруулна. Шаардлага гарвал эмнэлэгт хэвтэх ор олдоно гэсэн бодол ч мөн адил. Гэтэл өнгөрсөн жилийн томуугийн улирлын оргил үед Англид насанд хүрэгчдэд зориулсан эмнэлгийн орны ойролцоогоор 95 хувь нь дүүрсэн байв.

Хэрэв эмнэлгүүд зочид буудал байсан бол ийм дүүргэлт ашигтай бизнесийн шинж болж, бид тэднийг үр ашигтай ажиллаж байна гэж магтах байлаа. Гэвч томуугийн дэгдэлт ганцхан долоо хоног ширүүсэхэд л өвчтөнүүдээ коридорт эмчлэхээс өөр аргагүй болохуйц цөөн нөөц ортой эмнэлгийг бид үнэхээр хүсэж байна уу?

Үр ашиг гэдэг ойлголтын нарийн төвөгтэй тал нь энэ юм. Бид үр ашиг нэмэгдэх тусам улам сайн гэж боддог. Гэвч нэг зүйлийг сайжруулахад хэт анхаарснаар бусдыг нь анзаарахаа больж болно. Та цагийн хуваарийнхаа минут бүрийг төлөвлөж болох ч удалгүй ажлууд товлосон хугацаанаасаа хэтэрч, эцэст нь хуваариасаа хоцорно. Уулзалтуудын дундах завсар үр ашиггүй мэт харагдавч гэнэтийн зүйл тохиолдоход хуваарийнхаа хоцрогдлыг нөхөх боломжийг чухам тэр завсар олгодог.

Математикчид үр ашгийг ийнхүү эрэлхийлэхийг оновчлол гэж нэрлэдэг. Зардал, хугацаа, түлшний зарцуулалт, ашиг гэх мэт хамгийн бага эсвэл хамгийн их болгох зүйлээ бидэнд өгвөл бид боломжит хамгийн сайн шийдлийг олохыг хичээнэ. Хүн төрөлхтний түүхийн ихэнх хугацаанд хүмүүс амьдралын энгийн ухаанд түшиглэн оновчтой шийдлийг эрэлхийлж ирсэн. Харин компьютер бий болсноор нислэгийн хуваариас эхлээд нийлүүлэлтийн сүлжээ хүртэл үр дүнтэйгээр шийдвэрлэж болох асуудлын хүрээ асар их тэлсэн. Нийгэмд авчирсан өгөөж нь ч асар их. Гэвч хамгийн оновчтой шийдлийг зогсолтгүй эрэлхийлэхдээ болгоомжлох ёстой наад зах нь гурван урхи бий.

Хиймэл оюун ухаан оновчлолын энэ гурван урхийг урьд урьдынхаас илүү аюултай болгож болзошгүй.

Эмнэлгийн орны жишээ эхний урхийг харуулна. Энэ нь нөөц хүчин чадлыг хэт шахаж танаснаар системийн хүндрэл даах чадварыг сулруулах явдал юм. Ачаалал багатай мягмар гарагийн орой сул ор илүүдэл мэт харагдаж болох ч томуугийн тохиолдол огцом нэмэгдэхэд дараагийн өвчтөнийг хэвтүүлэх үнэтэй нөөц болдог. Хэрэв системийг ердийн нөхцөлд хэрхэн ажиллаж байгаагаар нь л үнэлбэл онцгой хүнд нөхцөлийг даван туулах чадвараа алдаж болно.

Хоёр дахь урхи нь «хамгийн сайн» гэж юуг үзэхээ хэт явцуу тодорхойлох явдал. Милтон-Кинс хотыг авч үзье. 1960-аад оны сүүлээр хот төлөвлөгчдийн зураг төслөөр бий болсон энэ хот Америк маягийн торон бүтэцтэй замын сүлжээтэй. Хотыг барьж байгуулахын хэрээр замын уулзваруудад гэрлэн дохионы оронд тойрог уулзварууд голлох болсон бөгөөд өнөөдөр тэдгээрийн тоо 130 орчимд хүрчээ. Тойрог уулзварууд замын хөдөлгөөний урсгалд тун сайн байсан ч өдгөө олны мэдэх болсон нэг сөрөг тал дагуулсан. Та Оксфордоос Кембриж рүү хот хоорондын автобусаар зорчиж үзсэн үү? Нэг цаг орчим явсны дараа Милтон-Кинсийн сайхан дүр зураг харагдана. Гэвч автобус нэг тойрог уулзвараас нөгөө рүү орох тусам зорчигчдын дотор муухайрна. Хурдаа сааруулна, зүүн тийш эргэнэ, баруун тийш нумлан тойрно, дахин хурдална. Дотор тань эвгүйрхэж байхад автомашинууд урсгалд хэчнээн саадгүй нийлж байгааг бишрэх амаргүй.

Замын хөдөлгөөний урсгал чухал нь мэдээж. Үүнийг хэмжихэд харьцангуй хялбар учраас инженерүүд оновчлоход тохиромжтой үзүүлэлт гэж үздэг. Харин зорчигчдын тав тухыг тоогоор илэрхийлэхэд илүү төвөгтэй. Ийм тохиолдолд оновчлол таны тавьсан асуултад хамгийн сайн хариуг өгдөг ч бодож үзээгүй орхисон асуултуудад тань хүсээгүй хариу авчирч мэднэ.

Гурав дахь урхи нь оновчлох оролдлогууд хоорондоо мөргөлдөхөд үүснэ. Системийн хэсэг бүр хамгийн оновчтой байдлаар ажилласан ч систем бүхэлдээ тийм байна гэсэн үг биш. 2010 оны тавдугаар сарын 6-нд АНУ-ын санхүүгийн зах зээл энэ үзэгдлийг тун тод харуулсан. Аль хэдийн унаж байсан зах зээл дээр S&P 500 индекс ердөө таван минутын дотор дахин 5 хувиар огцом унав. Эргээд өсөх хөдөлгөөн нь бүр ч огцом байлаа: арван минутын дотор зах зээл эргэн сэргэв. Олон зуун төрлийн үнэт цаас богино хугацаанд байж боломгүй бага үнээр арилжаалагдсан.

Эдгээр хүчтэй савлагааг өдөөсөн нэг хүчин зүйл нь нийт 4 тэрбум ам.доллароос давсан дүнтэй фьючерсийн 75 мянган гэрээг худалдах автомат программ байв. Автомат арилжааны бусад систем бараг тэр даруй хариу үйлдэл үзүүлэв. Улмаар тэдгээрийн хариу үйлдэл бие биеэ өдөөн хүчжүүлж, зах зээлийн хөрвөх чадвар үгүй болов. Алгоритм тус бүрийн үйлдлийг дангаар нь авч үзвэл үндэслэлтэй байсан байж болох ч хамтдаа зах зээлийг эмх замбараагүй байдалд оруулсан юм.

Энэ бүхэн биднийг хиймэл оюун ухааны тухай асуудалд авчирна. Хиймэл оюун ухаан бол оновчлолын түүхэн дэх хамгийн гайхамшигтай амжилтуудын нэг. Сургалтын явцад загварыг текстийн үргэлжлэлийг таамаглах, компьютерын программ бичих, шинжлэх ухааны асуултад хариулах, хууль зүйн зөвлөгөө өгөхдөө улам сайжруулахын тулд асар олон параметрийг дахин дахин тохируулдаг. Харамсалтай нь хиймэл оюун ухаан одоо оновчлолын гурван урхийг урьд урьдынхаас илүү аюултай болгож болзошгүй. Эхний урхи буюу нөөц боломжийг танах эрмэлзэл нь улам хурдан сэтгэдэг алгоритмуудын эринд илүүдэл мэт харагдах хүний хяналтаас татгалзахад байгууллагуудыг уруу татаж мэднэ. Өдөр тутмын хэвшмэл ажлыг машин гүйцэтгэж чадаж байхад туршлагатай ажилтнуудыг яагаад байлгах ёстой гэж? Гэвч хүний энэ нөөц, чадамжийг танаснаар ердийн бус нөхцөл байдлыг олж анзаарах, зохицуулах чадвараа алдаж болзошгүй.

«Хамгийн сайн» гэдгийг өрөөсгөлөөр ойлгох хоёр дахь урхи нь бид чансааны хүснэгтэд хамгийн өндөр оноо авсныг л оюун ухаан гэж үзэх үед гарч ирнэ. Бид хэрэглэгчийн сэтгэл ханамж зэрэг үзүүлэлтээр өндөр үнэлгээ авдаг хиймэл оюуны систем бүтээхдээ гайхалтай амжилтад хүрсэн. Гэвч тэдгээрийг зөв дүгнэлт хийх, бусдын мэдрэмжийг ойлгох чадварын хувьд оновчлох нь хавьгүй хэцүү болохыг харж байна. Үнэхээр ч хүний сонголт, таашаалд тулгуурлан алгоритмуудыг сургах нь хиймэл оюуныг бидэнд сонсоход таагүй үнэнийг хэлэхийн оронд тал засаж, бидэнтэй санал нийлэхэд өдөөж болдгийг судлаачид тогтоосон.

Дараа нь гурав дахь урхи бий. Хиймэл оюуны системүүд улам олноороо, ихэвчлэн асар өндөр хурдаар бие биетэйгээ харилцах болжээ. Ялангуяа бие даан даалгавар гүйцэтгэдэг хиймэл оюуны агентуудын эрин үед энэ хандлага эрчимжиж байна. Тэдгээрийн харилцан үйлчлэл урьдчилан таамаглах аргагүй, аюултай зан үйл үүсгэж болзошгүйд бид санаа зовниж байна. Саяхан OpenAI-ийн нэг агент Австралийн Medicare-ийн олон нийтэд нээлтгүй статистикийн порталд зөвшөөрөлгүй нэвтэрсэн. Үүний зэрэгцээ нийтэд нээлттэй ажиллагааны бүртгэлээс олон зуун өөр агент Австралийн засгийн газрын эрүүл мэндийн мэдээлэлд нэвтрэх оролдлогоо хоорондоо уялдуулж байсан бололтой нь харагдсан. Эдгээр оролдлого Medicare-ийн порталд зөвшөөрөлгүй нэвтэрсэн тэр үйл явдлын нэг хэсэг байсан нь тогтоогдоогүй. Гэсэн ч тэдгээр нь олон зуун агент зөвшөөрөлгүйгээр хамтран ажилласан бололтой гэх түгшүүртэй дүр зургийг харуулсан. Энд санаа зовоож буй зүйл нь ганц нэг хиймэл оюун юу хийж чадах, эсвэл чадахгүйгээс цааш хүрнэ. Харин асар олон агент хүчээ нэгтгэхэд юу тохиолдох вэ гэдэгт оршиж байна.

Оновчлолын хүч чадал нэмэгдэх тусам эдгээр урхинаас зайлсхийх нь улам чухал болно. Гол сорилт нь зөвхөн хамгийн сайн хариуг олох явдал биш. Харин «хамгийн сайн» гэж чухам юуг хэлж байгаагаа тодорхойлж, оновчлох явцдаа юуг танаж үгүй хийж болохгүйг мэдэхэд оршино.