“Хүний амь эрсдэх нөхцөл байдал хэзээ ч магадлал, код эвсэл аль нэг корпорацийн ашиг сонирхлоор шийдэгдэх ёсгүй” НҮБ-ын ЕНБД Антонио Гутерреш

НҮБ-ын Зэвсэг хураах, олон улсын аюулгүй байдал судлалын төв /UNIDIR/-өөс Женев хотод Хиймэл оюун ухаан, аюулгүй байдал, ёс зүйн асуудлаарх анхдугаар чуулга уулзалт–ыг зохион байгуулж, НҮБ-ын гишүүн орнууд, судалгаа, эрдэм шинжилгээний байгууллага, хувийн хэвшлийн төлөөлөл чуулж, мэдээлэл, харилцаа холбооны технологи, хиймэл оюун ухаан ба түүнийг хариуцлагатай хөгжүүлэх асуудлаар байр сууриа илэрхийлэв.

Олон талт оролцогчид тогтворгүй байдал, хөгжил, мэдээллийн зохицуулалт зэрэг сэдвийн хүрээнд олон улсын энх тайван, аюулгүй байдал болон цэрэг, батлан хамгаалахын салбарт хиймэл оюун ухааны хөгжил, түүнийг хариуцлагатай ашиглах, олон талт аюулгүй байдлын сорилт ба хиймэл оюун ухаанаас үүдэлтэй нийгмийн тогтворгүйжилт, цаашлаад, хүний оролцоо, мэдлэг, чадавх нэмэгдүүлэх, олон улсын эрх зүйн үйлчлэлийг хэлэлцэв.

Олон улсын хамтын нийгэмлэг юунд анхаарав?

Хиймэл оюун ухааны хурдацтай хөгжил нь бүхий л салбарт нэвтэрч, ёс зүйн үр дагавар, аюулгүй байдлын асуудлаар хэлэлцүүлгийг өрнүүлэхэд хүргэж, тус технологи нь иргэний болон цэрэг, батлан хамгаалах салбарын хэрэглээнд улам бүр нэвтэрч байгаа тул технологийн чадавхыг ашиглах, холбогдох эрсдэлийг бууруулах хоорондын нарийн тэнцвэрийг сайтар судлах шаардлагатай болов.

Хиймэл оюун ухаан, аюулгүй байдал, ёс зүйн асуудлаарх чуулга уулзалтаар хиймэл оюун ухааны шийдвэр гаргах үйл явцад хүний хяналтыг сайжруулахын чухлыг болон хариуцлагатай засаглалыг голчлон онцлов. Хэлэлцүүлгүүдээр засгийн газар, хувийн хэвшил, иргэний нийгмийг хамарсан олон талт оролцоог дэмжиж, цэрэг, батлан хамгаалах салбарт хиймэл оюун ухааныг үр дүнтэй удирдан зохицуулах ил тод тогтолцоог бий болгох нь нэн чухал гэдэг дээр санал нэгдэж, хариуцлагын ээдрээтэй байдал, технологийн цэрэгжилтийн хөгжил нь хатуу стандартын хэрэгцээг зүй ёсоор шаардаж байгааг тодотгов. Иймд юуны өмнө хиймэл оюун ухааны технологийг хариуцлагатай ашиглах, бүх нийтээр хүлээн зөвшөөрсөн ёс зүйн хэм хэмжээг тогтоосны дараа олон улсын аюулгүй, тогтвортой байдал, хүний эрхийг хамгаалахад технологийн дэвшил бодитой хувь нэмэр оруулахыг онцлов.

Орчин үеийн технологийн хүрээнд хиймэл оюун ухааны аюулгүй байдал, ёс зүйн тодорхойлолтыг авч үзэх нь

Хиймэл оюун ухааныг тойрсон өнөө үеийн хэлэлцүүлэг, хурал, чуулгануудад технологийн дэвшил хурдсаж байгаатай холбогдуулж аюулгүй байдал, ёс зүйн тодорхойлолтуудын асуудал ихээхэн хөндөгдөж байна. Хиймэл оюуны аюулгүй байдал нь эмзэг байдлыг ашиглаж болзошгүй аюулаас хамгаалах системийг хамардаг бол ёс зүй нь хиймэл оюун ухааныг ашиглахад чиглүүлдэг ёс суртахууны зарчмуудтай холбоотой. Хиймэл оюун ухааны ашиглалт бүхий л салбарт нэвтэрч байгаа нь нууцлал, хариуцлага, алгоритмын шийдвэр гаргахад үзүүлэх үр дагавартай холбоотой ёс суртахууны сорилтыг үүсгэх болсон. Тус технологийг цэрэг, батлан хамгаалах салбарт ашиглах явдал нэмэгдэж байгаа нь алгоритмын гажуудал болон урвуулан ашиглах боломжийг үүсгэж, хиймэл оюун ухааныг хөгжүүлэх, ашиглахад чиглүүлэх ёс зүйн бат бөх тогтолцоог зүй ёсоор шаардаж байна. Цаашлаад, иргэний болон цэргийн технологийн хоорондын зааг бүдгэрч байгаа энэ үед хүмүүнлэгийн хууль тогтоомжийг дагаж мөрдөх, олон улсын хамтын ажиллагааг дэмжих засаглалын бүтэц зайлшгүй юм. Эцэст нь хиймэл оюун ухааны аюулгүй байдал, ёс зүйг орчин үеийн технологийн хүрээнд тодорхойлох нь хиймэл оюун ухааны хэрэглээний нарийн төвөгтэй байдлыг зохистой шийдвэрлэхийн тулд техникийн хамгаалалт, зарчмын хэлэлцүүлгийг нэгтгэх олон талт арга барил нэн чухал гэдэг дээр чуулга уулзалтад оролцогчид санал нэгдэв.

Хиймэл оюун ухаан, аюулгүй байдал, ёс зүйн асуудлуудын огтлолцлыг авч үзэхийн ач холбогдол

Хиймэл оюун ухааны хариуцлагатай засаглал нь түүний болзошгүй нөлөөллийн талаар нарийн ойлголттой байхыг шаарддаг бөгөөд хэлэлцүүлэг нь аюулгүй байдлыг нэмэгдүүлэх, хувь хүний эрх чөлөө, эрхэд учирч болзошгүй эрсдэлийг бууруулах хоорондын тэнцвэрт байдалд гол анхаарлаа хандуулж байв. Энэхүү огтлолцол, харилцан хамаарлыг зохистой шийдвэрлэх нь зөвхөн эрдэм шинжилгээний ажил биш юм; Энэ нь олон улсын энх тайван, тогтвортой байдлыг хадгалахад чухал ач холбогдолтой. Чуулга уулзалтын үеэр салбар хуралдаан даргалагчид хиймэл оюун ухааны шийдвэр гаргах үйл явцад хүний хяналт нэн чухал болохыг онцолж, ёс зүйн зохих түвшинд хүрээгүй бие даасан системд найдах нь ихээхэн аюул занал учруулахыг оролцогчдод сануулав. Идэвхтэй яриа хэлэлцээ нь хүмүүнлэгийн хуулийг сахин хамгаалахын зэрэгцээ аюулгүй байдлыг хангах инновацыг бий болгоход ач холбогдолтой тул засаглал ба ёс суртахуунд онцлон анхаарах нь олон талт оролцогчдын оролцоог бататгаж, олон талын дуу хоолой ил тод тогтолцоог бий болгоход хувь нэмэр оруулна гэв.

Үндэсний аюулгүй байдалд хиймэл оюун ухааны үүрэг

Хиймэл оюун ухааныг үндэсний аюулгүй байдлын тогтолцоонд нэгтгэх нь ёс зүйн үр дагаврыг нухацтай авч үзэхийг шаардсан шинэ парадигмыг бий болгов. Хиймэл оюун ухаан нь маш их хэмжээний өгөгдлийг богино хугацаанд боловсруулж, цэргийн ажиллагаа, батлан хамгаалах стратегид хиймэл оюун ухааныг нэвтрүүлж байгаа нь бие даасан системийн дэвшил, мэдээллийн дүн шинжилгээ, аюул заналыг үнэлэх зэрэг орчин үеийн дайнд мэдэгдэхүйц өөрчлөлтийг авчирч байна. Эдгээр технологиуд нь тагнуул, логистик, шийдвэр гаргах үйл явц зэргийг автоматжуулж, хүний амь насанд учрах эрсдэлийг бууруулж, үйл ажиллагааны үр ашгийг дээшлүүлэх юм. Гэсэн хэдий ч автоматжуулсан процесст найдлага тавих нь хариуцлагын зөрчил болон тэр дундаа мөргөлдөөнтэй бүс нутагт хүсээгүй үр дагаварт хүргэж болзошгүй билээ. Иймд, хиймэл оюун ухааныг цэргийн хэрэглээнд нэвтрүүлэн ашиглахдаа хариуцлагатай засаглал, ёс зүйн хэм хэмжээ нэн чухлыг салбар хуралдаан даргалагчид онцолж байв.

Тус сэдвийн хүрээнд хийсэн хэлэлцүүлэг нь хиймэл оюун ухааны шийдвэр гаргах явцад хүний хяналтыг дэмжиж, олон улсын хүмүүнлэгийн хуульд нийцүүлэн олон улсын энх тайван, аюулгүй байдлыг ханган хамгаалахад хиймэл оюун ухааны эрсдэл ба ашиг тусын тэнцвэрийг онцлов.

Автономит зэвсэг, шийдвэр гаргах үйл явцын ёс зүйн үр дагавар

Автономит зэвсгийн үр дагавар, түүний шийдвэр гаргах үйл явц нь ноцтой сорилтуудыг бий болгож байгаа бөгөөд үүнийг бүх талаас нь харсан, нарийн шүүлт, хийх шаардлагатай. Цэргийн хэрэглээнд хиймэл оюун ухааныг ашиглах нь түгээмэл болж, хариуцлага, хүний хяналтыг дордуулж болзошгүй асуудал нь хурцаар тавигдан, амьдрал, үхлийн асуудлаар шийдвэр гаргахыг алгоритмд даатгах нь маш олон эрсдэлүүдийг бий болгоно. Иймд шийдвэр гаргах үйл явцад технологи, хүн хоорондын тэнцвэрт байдлыг хадгалж, автономит зэвсгийн эрин үед ёс зүйн хэм хэмжээг хамгаалах, цэргийн ажиллагаанд хариуцлага, ил тод байдлыг хангах нэн чухал байна.

Хиймэл оюун ухааны технологийн засаглал ба зохицуулалт.

Хиймэл оюун ухааны аюулгүй байдал, ёс зүйн хүрээнд хиймэл оюун ухааны технологийн удирдлага, зохицуулалтын нэгдсэн тогтолцоо байхгүй бол түүнийг цэрэг, батлан хамгаалах салбарт цэргийн ажиллагааны зорилтыг хэрэгжүүлэхээр урвуулан ашиглах боломжийг үүсгэж хүсээгүй үр дагавар нь улам даамжирснаар геополитикийн харилцааг тогтворгүй болгох эрсдэлтэй юм. Цаашилбал, нийтээр хүлээн зөвшөөрөгдсөн стандарт байхгүй байгаа нь бие даасан зэвсгийн хөгжилд зэвсэглэлээр хөөцөлдөх асуудлыг даамжруулж, олон улсын энх тайван, аюулгүй байдлыг ноцтойгоор ганхуулж болзошгүй юм. Иймд, зохицуулалт бий болгож хэрэгжүүлэх нь ил тод байдлыг дэмжиж, цэрэг, дайны ажиллагааг хүмүүнлэгийн хуультай уялдуулан хиймэл оюун ухааны шийдвэр гаргах үйл явцад хүний хяналтыг тогтоож эрсдэлийг удирдахаас гадна хиймэл оюун ухааны хөгжилд итгэх итгэл, ёс зүйн үндэс суурийг бий болгох явдал юм.

Дүгнэлт

Хиймэл оюун ухааны хэрэглээ, хөгжүүлэлтийн ил тод, хариуцлагатай байдлыг хэвшүүлэхийн тулд засгийн газар, хувийн хэвшил, иргэний нийгэм, эрдэм шинжилгээний байгууллагын төлөөллүүдийг оролцуулсан яриа хэлэлцээний тогтмол механизмыг бүрдүүлж, хяналтын цогц стратеги боловсруулах шаардлагатай. Эцсийн дүндээ хиймэл оюун ухааныг хариуцлагатай ашиглах тогтолцоог бүрдүүлэх нь мэдээллийн технологийн эринд аюулгүй байдлын сорилтууд, аюул заналыг хамтын хүчээр даван туулахад чухал үүрэг гүйцэтгэнэ гэсэн байр суурин дээр чуулга уулзалтад оролцогчид санал нэгдэв.

Хиймэл оюун ухааны аюулгүй байдал ба ёс зүйн асуудал нь зөвхөн техникийн болоод философийн сорилт төдий бус дижитал ирээдүйг тодорхойлох үндсэн хүчин зүйл болоод байгаа билээ. Энэ технологи нь нийгмийн бүхий л салбарт нэвтэрч, ашиглалт нь нэмэгдэхийн хэрээр түүний хөгжүүлэлт, ашиглалтын ёс зүйн зарчим болон аюулгүй байдлын хатуу тогтолцоотой уялдуулах шаардлагатай юм. Хиймэл оюун ухааны аюулгүй байдал гэдэг нь зөвхөн гаднын халдлагаас хамгаалах бус хүний эрх чөлөө, нууцлалын асуудал бөгөөд хөгжүүлэлт болоод шийдвэр гаргах явцад хүний оролцоог тэнцвэржүүлэх шаардлагатай сорилт юм. Улмаар, хиймэл оюун ухааны ёс зүй нь хийсвэр ойлголт бус харин алгоритм, бодлогын удирдамж, байгууллагын хэм хэмжээнд тусгагдах шаардлагатай практик хэрэгцээ болов. Эдгээр салбарын огтлолцол нь олон талт, салбар хоорондын хамтын ажиллагааг шаардаж, хиймэл оюун ухааны хөгжүүлэлт болох ашиглалтад ил тод, хариуцлагатай байдлыг бүх шатанд төлөвшүүлэн, хэрэгжүүлэх шаардлагыг үүсгэж байна.

Эх сурвалж:

www.youtube.com/watch?v=wh6gAXaGGNs

www.unidir.org/event/global-conference-on-ai-security-and-ethics-2025/