OpenAI хиймэл оюуны агентууд хяналтаас гарч, даалгавраас нь хэтэрсэн үйлдэл хийсэн тухай мэдээллүүд нэмэгдэж байгаатай холбоотойгоор хамгийн сүүлийн үеийн хиймэл оюуны загваруудаа сургах ажлыг түр зогсоосноо мэдэгдлээ.
Компанийн хөгжүүлэлтийг зогсоох шийдвэр нь баасан гарагт OpenAI энэ зун гарсан хэд хэдэн тохиолдлыг шалгаж байгаагаа мэдээлснээс хэдхэн цагийн дараа гарчээ. Тэдгээр тохиолдолд АНУ-ын холбооны Засгийн газрын цахим хуудсуудаас мэдээлэл хайж байсан OpenAI-ийн агентууд мэдээлэл цуглуулах, түгээх явцдаа өгсөн даалгавраас нь хэтэрсэн, санаанд оромгүй үйлдлүүд хийсэн байна.
Мөн хиймэл оюуны системийн үнэлгээ хийдэг Transluce байгууллага OpenAI-аас гаралтай бололтой агентууд АНУ-ын Боловсролын яамны цахим хуудсанд нэвтрэхээр оролдсон ч амжилтгүй болсон гэж мэдээлжээ. Гэхдээ OpenAI энэ мэдээллийг одоогоор батлаагүй байна.
OpenAI мэдэгдэлдээ нэмэлт хамгаалалтын арга хэмжээ хангалттай хэрэгжсэн гэдэгтээ итгэлтэй болсон үед л сургалтаа дахин эхлүүлнэ гэжээ. Мөн хиймэл оюун хөгжихийн хэрээр шинэ асуудлууд гарч ирэх тул ирээдүйд дахин “түр зогсоох” шаардлага гарч болзошгүйг онцолсон байна.
Өнгөрсөн долоо хоногт Австралийн Ерөнхий сайд Энтони Альбанезе OpenAI-ийн нэг агент тус улсын үндэсний эрүүл мэндийн системд нэвтэрсэн талаар мэдээлсэн. Гэхдээ түүний хэлснээр эмзэг буюу нууц мэдээлэл алдагдаагүй байна.
Хиймэл оюуны лабораториуд агентууд өөрсдөө дур мэдэн үйлдэл хийх, цахим хуудсуудыг хакердах, нийтэд нээлттэй бус мэдээлэл задруулах эрсдэлийг хязгаарлах хамгаалалтын механизм бий болгохын тулд хөгжүүлэлтийн хурдаа сааруулах шаардлагатай гэсэн хууль тогтоогчид болон технологийн мэргэжилтнүүдийн дарамттай тулгарч байна. OpenAI болон түүний өрсөлдөгч Anthropic компанийн удирдлагууд ч хиймэл оюуны хөгжлийн хурдыг сааруулах шаардлагатай гэж өмнө нь мэдэгдэж байсан.
Энэ нь сүүлийн гурван сарын хугацаанд OpenAI загваруудаа хөгжүүлэх ажлаа хоёр дахь удаагаа зогсоож буй тохиолдол юм. Эхнийх нь долдугаар сард хиймэл оюуны стартап Hugging Face рүү чиглэсэн кибер халдлагын талаар мэдээлэл ил болсны дараа болсон. Тухайн хэрэг явдал салбарынхан хиймэл оюуны системүүддээ тавих хяналтаа алдаж болзошгүй гэсэн болгоомжлолыг эрс нэмэгдүүлсэн юм.
Энэ долоо хоногт БНХАУ-ын дарга Ши Жиньпинтэй уулзах үеэрээ Дональд Трамп хиймэл оюунаас үүдэх аюулын талаарх мэдээллийг хоёр тал харилцан солилцож, аюулгүй байдлыг хангах чиглэлээр хамтран ажиллахаар тохиролцжээ. Гэсэн хэдий ч Трамп хиймэл оюуны талаарх болгоомжлолыг хэтрүүлсэн гэж үздэг бөгөөд АНУ-ын зүгээс хөгжүүлэлтийг хүчтэй хязгаарлах бодлого хэрэгжүүлэх бодолгүй байгаагаа дараа нь илэрхийлсэн байна.
Трамп сэтгүүлчдэд “АНУ тоормос гишгэхгүй. Тэд бидний хөгжлийг зогсоохыг хүсэж байна. Учир нь бид Хятадаас нэлээд түрүүлж байгаа, энэ байр сууриа ч хадгална” гэжээ.
OpenAI-тай холбоотой хамгийн сүүлийн тохиолдлуудаар нийтэд ил болоогүй мэдээлэл задруулсан шинж тэмдэг байгаагүй ч компанийн хувьд хангалттай ноцтойд тооцогдсон тул холбогдох холбооны байгууллагуудад анхааруулга өгсөн байна.
Боловсролын яамтай холбоотой тохиолдолд OpenAI-ийн агентууд Засгийн газрын өгөгдөлд нэвтрэх боломжтой API-ийн “хөгжүүлэгчийн түлхүүрүүд”-ийг олсон боловч эцэстээ зөвхөн нийтэд нээлттэй мэдээлэл цуглуулжээ.
Өөр нэг тохиолдолд АНУ-ын Үнэт цаас, биржийн хороотой холбоотой мэдээллийг агентууд олсон байна. Тухайн мэдээлэл хүн бүхэнд чөлөөтэй нээлттэй байсан ч агентууд түүнийг интернетийн өөр хэсэгт дахин нийтэлсэн нь анх өгсөн даалгаврын хүрээнээс хэтэрсэн үйлдэл болсон гэж үзжээ.
АНУ-ын Үнэт цаас, биржийн хорооны хэвлэлийн төлөөлөгч Курт Хопфенспиргер бямба гарагт “Нийтэд нээлттэй бус ямар ч мэдээлэлд нэвтрээгүй” гэж мэдэгдсэн байна.
АНУ-ын Боловсролын яам мөн өмнө нь “Манай цахим хуудас эсвэл мэдээллийн санд ямар нэгэн нөлөөлөл үзүүлсэн гэх нотолгоо олдоогүй” гэж мэдэгджээ.
Бусад хэд хэдэн хиймэл оюуны компани ч өөрсдийн загварууд өгсөн заавраас хэтэрсэн байдлаар ажиллаж, зарим тохиолдолд цахим хуудсанд зөвшөөрөлгүй нэвтрэх оролдлого хийсэн талаар өмнө нь мэдээлж байсан.
OpenAI-ийн гүйцэтгэх захирал Сэм Алтман баасан гарагт сошиал медиад нийтэлсэн мэдэгдэлдээ Hugging Face-тэй холбоотой хэрэг явдлыг “Бидний өнөөг хүртэл харсан хамгийн ноцтой тохиолдол хэвээр байна” гэжээ.
OpenAI өмнө нь хиймэл оюуны загваруудын “санаанд оромгүй эсвэл түгшүүр төрүүлэхүйц” зан үйлийн зургаан өөр тохиолдлыг мөн нийтэд мэдээлж байсан бөгөөд ийм төрлийн үйл явдлыг бүртгэх, шинжлэх, шалгах болон ил тод мэдээлэх тусгай тогтолцоог нэвтрүүлсэн байна.
Сэтгэгдэл (0)
Сэтгэгдэл бичигдээгүй байна