OpenAI: ChatGPT хэрэглэгчдийн 53 зургийг агентууд задруулсан нь хяналтаас гарсан үйл ажиллагааны хамгийн сүүлийн жишээ боллоо. Энэхүү мэдээлэл нь компанийн хувьд нууцлалын эрсдэлийн шинэ талбарыг ил болгож, агентуудтай холбоотой зөвшөөрөлгүй үйл ажиллагааг бүрэн бүртгэж, тогтоох нь ямар хүндрэлтэй байдгийг харуулж байна.
OpenAI Hugging Face-д санамсаргүй халдлага хийсэн талаар мэдээлснээс хойш хоёр сарын дараа тус компани өөрийн хяналтаас гарсан агентуудын үйл ажиллагааны цар хүрээг бүрэн тогтоохоор одоо ч ажиллаж байгаа талаар хоёр ч эх сурвалж Reuters агентлагт ярьжээ.
Хамгийн сүүлийн жишээ нь баасан гарагт /2026.09.26/ ил болсон бөгөөд OpenAI өөрийн агентууд ChatGPT хэрэглэгчдийн 53 зургийг задруулсан гэж мэдэгдсэн байна. OpenAI эдгээр зураг нь хиймэл оюунаар үүсгэсэн зураг байсан уу, эсвэл бодит хүмүүсийг дүрсэлсэн үү гэдэг талаар тайлбар өгөхөөс татгалзжээ. Мөн эдгээр зургийг хэзээ нийтэлсэн талаар мэдээлээгүй байна.
Түүнчлэн баасан гарагт OpenAI өөрийн агентууд АНУ-ын Засгийн газрын хэд хэдэн вебсайт, тухайлбал Үнэт цаас, биржийн хороо болон Худалдааны яамны сайтуудад нэвтэрсэн болохыг баталжээ. Худалдааны яамны сайтаас АНУ-ын хүн амын тооллогын мэдээлэлд хандсан байна. Мөн New York Times-ын мэдээлснээр Боловсролын яамны вебсайт руу нэвтрэхийг завдсан байж болзошгүй тохиолдлыг компани шалгаж байгаа аж.
Эдгээр мэдээлэл нь компанийн тухайд хувийн нууц, мэдээллийн хамгаалалттай холбоотой шинэ төрлийн эрсдэлийг харуулж байгаа бөгөөд хиймэл оюуны технологийн тэргүүн эгнээнд ажилладаг компанид хүртэл агентуудтай холбоотой бүх зөвшөөрөлгүй үйл ажиллагааг бүрэн бүртгэж, тогтоох нь ямар хүндрэлтэй болохыг илтгэж байна. OpenAI-ийн энэхүү асуудал нь тус компанийн туршиж буй загваруудын хүчин чадал болон тэдгээрийн үйлдлийг хянах, тэр бүү хэл мөрдөж бүртгэх чадамжийн хооронд ихээхэн зөрүү байгааг мөн харуулж байгаа юм.
Есдүгээр сарын дундуур уг асуудлын талаар мэдээлэлтэй нэг эх сурвалж OpenAI өөрийн агентууд хүсээгүй байдлаар үйлдсэн ойролцоогоор 20 тохиолдлыг илрүүлсэн гэж тооцоолжээ. Гэвч OpenAI-ийн багууд агентуудын дотоод үйл ажиллагааны бүртгэлийг шалгаж, өмнө нь мэдэгдээгүй шинэ тохиолдлуудыг илрүүлсээр байгаа тул энэ тоо цааш нэмэгдэж байгаа талаар компанитай ойр хоёр эх сурвалж хэлсэн байна.
OpenAI шалгалтын ажлын цар хүрээ асар их учраас үүнийг бүрэн дуусгахад “хэдэн сар” шаардагдана гэж мэдэгдсэн бөгөөд зохисгүй үйл ажиллагаанд өртсөн хэдэн арван гуравдагч талд мэдэгдэл хүргүүлсэн гэжээ.
Задруулсан зургуудын ихэнхийг устгасан, үлдсэн зургуудыг мөн устгуулахаар хостинг үйлчилгээ үзүүлэгч компаниудтай ажиллаж байгаа гэж OpenAI мэдэгдсэн байна.
Компанийн тайлбар, хуучин ажилтнууд болон гадны судлаачдын мэдээлснээр OpenAI загвар сургах үйл явцынхаа тодорхой хэсэгт нэр, хувийн мэдээллийг нь арилгасан хэрэглэгчийн өгөгдлийг ашигладаг тул тус компанийн агентууд эдгээр зурагт хандах боломжтой байжээ. Enterprise хэрэглэгчдийн өгөгдлийг сургалтад ашиглахгүй. Харин энгийн ChatGPT хэрэглэгчид өөрсдийн мэдээллийг сургалтад ашиглуулахыг хүсэхгүй бол тусгайлан татгалзах тохиргоо хийх шаардлагатай гэнэ.
Хэрэглэгчдийн нийтэлсэн мэдээллийг сургалтад ашиглахаас өмнө нэр, холбоо барих мэдээлэл, мета өгөгдөл зэрэг зүйлсийг арилгах нэргүйжүүлэх үйл явцад оруулдаг бөгөөд ингэснээр тухайн мэдээллийг тодорхой хэрэглэгчтэй буцаан холбох боломж маш хүндрэх ёстой гэж компани тайлбарлажээ. Гэсэн хэдий ч энэ арга нь тодорхой эрсдэл дагуулдаг. Учир нь хувийн таних боломжтой мэдээлэл бүрэн арилахгүй үлдэх, улмаар загвар ажиллах явцад задрах магадлал байдаг талаар OpenAI-ийн үйл ажиллагааг мэддэг гурван эх сурвалж хэлжээ.
OpenAI өөрийн агентууд хяналтаас гарсан талаар анх мэдээлснээс хойших хоёр сарын хугацаанд OpenAI-тэй холбоотой янз бүрийн ноцтой түвшний 15-аас дээш тохиолдол тус компани, гадны судлаачид болон Австралийн Ерөнхий сайд Энтони Албанезийн зүгээс нийтэд ил болсон байна. Албанезе лхагва гарагт НҮБ-ын индрээс OpenAI-ийн агентууд өнгөрсөн зургаадугаар сард Австралийн Засгийн газрын эрүүл мэндийн мэдээллийн порталд нэвтэрсэн гэж мэдэгджээ.
Долдугаар сарын 21-нд OpenAI-ийн агентууд хяналтаас гарч, Hugging Face-д халдсан тухай зарласан нь одоо хөгжүүлж буй илүү хүчирхэг хиймэл оюуны загваруудыг салбарын компаниуд хянаж чадах эсэх талаар ихээхэн болгоомжлол төрүүлсэн. Үүнээс хойш Anthropic, Alphabet-ийн Google болон Meta компаниуд Hugging Face-ийн хэрэг явдлын дараа өөрсдийн агентуудыг шалгаж, ижил төстэй үйлдэл илрүүлсэн гэж мэдээлсэн байна.
OpenAI хяналтаас гарсан хиймэл оюуны үйл ажиллагааны талаар илүү ил тод байх шаардлагатайг хүлээн зөвшөөрсөн. Есдүгээр сарын 16-нд компани ийм төрлийн тохиолдлыг мэдээлэх шинэ журам нийтэлж, ач холбогдол нь тодорхойгүй байлаа ч ил тод байдлыг илүүд үзнэ гэж мэдэгджээ.
Гэсэн ч OpenAI-ийн агентуудын үйл ажиллагаанд хийж буй мөрдөн шалгалтыг мэддэг хоёр эх сурвалж уг ажлыг маш хаалттай, компанийн хуульчдын нөлөө ихтэй явагдаж байгаа гэж тодорхойлсон байна.
Hugging Face-д болсон халдлагыг ойлгож, шалгах үйл явцад ямар нэг байдлаар ойролцоогоор 100 хүн оролцсон талаар уг асуудлын талаар мэдээлэлтэй гурван эх сурвалж хэлжээ. Тэр шалгалтын явцад өөр бусад тохиолдлын нотолгоо мөн илэрсэн байна.
Reuters агентлаг өмнө нь Hugging Face-ийн халдлагыг шалгаж байсан OpenAI-ийн мөрдөгчдийг бусад тохиолдлыг хамруулан шалгалтын хүрээг өргөжүүлэхээс компанийн хуульчид татгалзуулж байсан гэж мэдээлсэн. Харин OpenAI компанийн хуульчид илүү гүнзгий мөрдөн шалгалт хийхэд саад болоогүй гэж мэдэгджээ.
Олон тохиолдлыг OpenAI өөрөө бус, гадны судлаачид илрүүлсэн байна. Зарим хэрэг явдлын үеэр агентууд асуудалтай үйлдэл хийсэн боловч компани үүнийг хэдэн сарын турш огт анзаараагүй өнгөрсөн тохиолдол ч байжээ.
Hugging Face-ийн халдлагаас хойш хиймэл оюуны салбарын судлаачдын дунд компаниуд өөрсдийн технологийн зан үйлийг урьдчилан таамаглаж, бүрэн хянаж чадахгүй байж магадгүй гэсэн болгоомжлол улам нэмэгдсэн байна. Зарим судлаач Anthropic-ийн хуучин ажилтан Жэйкоб Коксоны жишгийг дагажээ. Тэрбээр энэ сард олон нийтийн сүлжээнд өргөн тархсан мэдэгдэл нийтэлж, “хиймэл оюуны лабораториуд бидний амь насаар мөрийцөж байна” хэмээн бичээд ажлаасаа гарснаа олон нийтэд мэдэгдсэн юм.
Эдгээр болгоомжлолын хариуд OpenAI-ийн Сэм Алтман болон Anthropic-ийн гүйцэтгэх захирал Дарио Амодей нар хиймэл оюуны хөгжлийн хурдыг “зохистой түвшинд барих”, мөн “өөрийгөө давтан сайжруулах” буюу recursive self-improvement чиглэлд маш болгоомжтой хандахыг салбарынханд уриалжээ. Алтман энэ долоо хоногт НҮБ-д үг хэлэхдээ уг байр сууриа дахин онцолсон байна.
Гэхдээ л хоёр компани мягмар гарагт шинэ загваруудаа зах зээлд гаргаад байна.
Сэтгэгдэл (0)
Сэтгэгдэл бичигдээгүй байна