ယနေ့ခေတ် Generative AI Tools ဖန်တီးမှုများကြောင့် လူမှုပတ်ဝန်းကျင်တွင် ကောင်းကျိုး များစွာ ရရှိလာကြသလို ခြိမ်းခြောက်မှုအနေဖြင့်လည်း အလွန်ရှက်စရာကောင်းသော Deepfake ဗီဒီယိုများ ဖန်တီးရန် အလွန်လွယ်ကူလာတာတွေ့ရပါတယ်။ ၂၀၂၄ ခုနှစ်က အမေရိကန်နိုင်ငံရှိ လူမူအတိုက်အခံ ကာကွယ်ရေးဝန်ဆောင်မှုများကို ဆောင်ရွက်သော Home Security Heroes Company မှ ဖော်ပြထား သော အစီရင်ခံစာတစ်ခုအရ ထင်ရှားပြတ်သားသော မျက်နှာပုံ ဓာတ်ပုံ တစ်ပုံသာ လိုအပ်ပြီး ၂၅ မိနစ်အတွင်း ထိုပုံကိုအသုံးချပြီး ၆၀ စက္ကန့် ကြာသော Deepfake Pornography ဗီဒီယို တစ်ပုဒ်ကို AI Tool ဖြင့် ဖန်တီးနိုင်ကြောင်းသိရှိခဲ့ရတယ်။ AI Tools အချို့က Generative Adversarial Networks (GANs) နှင့် Neural Networks ကဲ့သို့သော အဆင့်မြင့် Deep Learning နည်းပညာများကို အသုံးပြုပြီး Deepfake ပုံများနှင့် ဗီဒီယိုများ ဖန်တီးနိုင်ပါတယ်။ ဥပမာအနေဖြင့် Zao ဆိုတဲ့ Deepfake-Creating AI Tool သည် တရုတ်နိုင်ငံတွင် လူကြိုက်များခဲ့သော Mobile App တစ်ခုဖြစ်ပြီး မျက်နှာများကို ရုပ်ရှင်ဇာတ်ကားတွေထဲမှာ အလွယ်တကူ လဲနိုင်တဲ့ နည်းတစ်ခုဖြစ်ပါတယ်။ Faceswap AI Tool သည် Python Language ကို အခြေခံထားသော Tool ဖြစ်ပြီး မျက်နှာများကို ဓာတ်ပုံနှင့် ဗီဒီယိုများတွင် အလွယ်တကူ လဲနိုင်ပါတယ်။ Deepfakes Web သည် Cloud-based နည်းပညာဖြင့် ဓာတ်ပုံများနှင့် ဗီဒီယိုများကို Upload ပြုလုပ်ပြီး အွန်လိုင်းတွင် အလွယ်တကူ Deepfake ပြုလုပ်နိုင်သော Platform တစ်ခုဖြစ်ပါတယ်။

၂၀၂၄ ခုနှစ် ဇန်နဝါရီလတွင် ကမ္ဘာကျော် အမေရိကန်အဆိုတော် Taylor Swift ၏ Deepfake ဓာတ်ပုံများ လူမှုမီဒီယာတွင် ပျံ့နှံ့ခဲ့ပြီး လူ ၄၇ သန်း ကြည့်ရှုခံခဲ့ရတယ်ဆိုတဲ့ သတင်းသည် လူမှုကွန်ယက်တွင် အလွန်ဂယက်ထသွားခဲ့တယ်။  ကိုရီးယား အနုပညာလောကရှိ အထူးသဖြင့် Pop အနုပညာရှင်များလည်း သူတို့၏ ဓာတ်ပုံများကို AI အသုံးပြုပြီး အလွဲသုံးစား အသုံးချခံခဲ့ရတာတွေ ရှိလာပါတယ်။ ဒီလိုတိုက်ခိုက်မှုတွေကြောင့် ထိခိုက်ခံစားရသူများ ၉၉ ရာခိုင်နှုန်းမှာ အမျိုးသမီးများ၊ မိန်းကလေးများ ဖြစ်ကြောင်း သိရှိရပါတယ်။ ဒီလိုအခြေအနေကို ပြန်လည်ကာကွယ်ရန် အမျိုးသမီး များအား AI Development Startup တည်ထောင်သူများ ဖြစ်လာအောင် တွန်းအားတစ်ခု ဖြစ်လာ စေခဲ့တာလည်း တွေ့ရပါတယ်။

သြစတြေးလျနိုင်ငံ အခြေစိုက် စွန့်ဦးတီထွင်ကုမ္ပဏီ That’sMyFace မှ CEO ဖြစ်သည့် Ms. Nadia Lee က “AI ဖွံ့ဖြိုးတိုးတက်မှုနှုန်းနှင့် အတူ လုံခြုံရေးနည်းပညာ မတိုးတက်ပါက ကျွန်မတို့ အမျိုးသမီးများအတွက် အတော်ပင် အန္တရာယ်များသည်” ဟုဆိုကာ Deepfake ရှာဖွေဖော်ထုတ်မှု နည်းပညာများ Visual-Recognition Tools အပေါ် လေ့လာမှု အများအပြား ပြုလုပ်ခဲ့ပါတယ်။ ထိုနည်းပညာကို Deepfake ဗီဒီယိုများ တင်ထားကြတဲ့ ဝက်ဘ်ဆိုက်ပလက်ဖောင်းတွေမှာ အသုံးပြုနိုင်လျှင် ပိုကောင်းပါမယ်။ နည်းပညာ ကောင်းမွန်သည်ဆိုသော်လည်း ထိုနည်းပညာကို အသုံးပြုသည့် ပလက်ဖောင်းရှိမှသာ အဆိုပါပလက်ဖောင်းများတွင် အလိုအလျောက် Deepfake အကြောင်းအရာများကို ရှာဖွေသိရှိနိုင်ရန် Integrate ပြုလုပ်ခြင်းဖြင့်  ပိုမိုအထောက်အပံ့ဖြစ်မည်ဟု  Ms. Lee က ပြောခဲ့ပါတယ်။ သို့သော် Porn ဝက်ဘ်ဆိုက်များနှင့် Integrate ပြုလုပ်ရန်မှာ ကြီးမားသော စိန်ခေါ်မှုတစ်ခု ဖြစ်နေပါတယ်။ သူ(မ)၏ ရေရှည်ရည်မှန်းချက်မှာ မည်သည့် အမျိုးသမီးမဆို မိမိ၏ မျက်နှာပါဝင်သည့် Deepfake ပုံရိပ်များ သို့မဟုတ် ဗီဒီယိုများကို အင်တာနက်ပေါ်တွင် ရှာဖွေရန် အသုံးပြုနိုင်မည့် Generative AI နည်းပညာတစ်ခုကို ဖန်တီးရန် ဖြစ်ပါတယ်။

နောက်ထပ်စွန့်ဦးတီထွင်ကုမ္ပဏီ Alecto AI ကို တည်ထောင်သူ Ms. Breeze Liu သည် ၄င်းကိုယ်တိုင်ပင် ၂၀၂၀ ခုနှစ်တွင် အလွန်ရှက်စရာကောင်းသော Deepfake Video ၏ သက်ရောက်မှုကို ခံစားခဲ့ရပါတယ်။ နောက်ဆုံးမှာ သူမက အဆိုပါ Video သို့ ဦးတည်သည့် လင့်ခ် ၈၀၀ ကျော်ကို ရှာဖွေ တွေ့ရှိခဲ့ရတယ်။ ၎င်းကို ဖယ်ရှားရန် ရဲများက မည်သည့်အကူအညီမျှ မပေးနိုင်ကြောင်း ပြောပြီး ဗီဒီယို တင်ထားသည့် ဝက်ဘ်ဆိုက်များအားလုံးကို ကိုယ်တိုင် ရှာဖွေ၍ ဖယ်ရှားရန် တောင်းဆိုခဲ့ပါတယ်။ အဆိုပါ ကိစ္စရပ်အပေါ် Breeze Liu သည် “ပိုမိုကောင်းမွန်သောနည်းလမ်းတစ်ခု ရှိရမည်။ AI ကို တိုက်ဖျက်ရန် AI ကိုအသုံးပြုရမည်” ဟု ဆိုကာ Alecto AI Startup ကိုတည်ထောင်ကာ ဓာတ်ပုံများကို လူမှုကွန်ရက်များ ပေါ်တွင် မမှန်မကန်သုံးစွဲခြင်း ရှိမရှိ စစ်ဆေးရန် အသုံးပြုနိုင်စေသော Facial Recognition ထောက်လှမ်းမှု နည်းပညာကို အသုံးပြုသည့် App များ တီထွင်စမ်းသပ်ခဲ့တယ်။ သူ(မ)သည် Meta (Facebook Parent Company)နှင့် စမ်းသပ်မည့်အစီအစဉ်အတွက် ပြောဆိုဆွေးနွေးနေပြီး အကောင်းဆုံး စနစ်တစ်ခု ဖြစ်သွားစေမည်ဟု ပြောဆိုခဲ့တယ်။ ထိုစနစ်သည် အလိုအလျောက် အကြောင်းအရာ စိစစ်ခြင်း Automated Content Moderation ကို ပံ့ပိုးခြင်းဖြင့် အွန်လိုင်း ကိုယ်ရေးအချက်အလက်စနစ်၏ အစိတ်အပိုင်းတစ်ခုဖြစ်လာနိုင်ပြီး လူများကို မမှန်ကန်သော လူမှုကွန်ရက် ပရိုဖိုင် (Social Media Profiles) များကို စစ်ဆေးနိုင်စေရန် AI Detection Algorithms ဖြင့် အထောက်အကူ ပြုခြင်းဖြင့်  အဆိုပါပလက်ဖောင်းအား အကျိုးရှိစေမည်ဟု ဆိုပါတယ်။

၂၀၂၃ ခုနှစ်တွင် ဗြိတိန်နိုင်ငံ၊ ဗားဂျီးနီးယားမြို့က ဗြိတိန်ပါတီ၏ ရွေးကောက်ပွဲ အခမ်းအနားတွင် အမတ်အဖြစ်ယှဉ်ပြိုင်ခဲ့သော Ms. Susanna Gibson သည် Deepfake ပုံများဖန်တီး ဖြန့်ချိခံရကာ ရွေးကောက်ပွဲတွင် သူမသည် ပါဝင်နိုင်မှု ပျောက်ဆုံးခဲ့ရတယ်။ ထို့နောက် သူမသည် ဗားဂျီးနီးယားတွင် Nonprofit MyOwn ဟုခေါ်သည့် အဖွဲ့အစည်းတစ်ခုကို စတင်တည်ထောင်ပြီး ဥပဒေပြုရေး လှုပ်ရှားမှုတွင် ပါဝင်ဆောင်ရွက်ကာ ဓာတ်ပုံ၊ ရုပ်ပုံများ လိင်ပိုင်းဆိုင်ရာ အလွဲသုံးစားမှု များကို အမျိုးသားအဆင့်အနေဖြင့် တိုက်ဖျက်ရန် လက်ရှိဥပဒေ Revenge Porn Law ကို ပိုမိုအကျိုးပြုမှု ရရှိအောင် အသစ်ပြင်ဆင်သည့် ဥပဒေတစ်ခုကို ဗားဂျီးနီးယားပြည်နယ် အုပ်ချုပ်သူက လက်မှတ်ရေးထိုး လာနိုင်အောင် ဆောင်ရွက်ခဲ့သည်။

လူမှုကွန်ရက်များမှ Deepfake အရာများကို ဖယ်ရှားခြင်းသည် မလွယ်ကူပါ။ အထူးသဖြင့် Porn Platform များမှ ဖယ်ရှားခြင်းကတော့ ပိုမိုခက်ခဲပါတယ်။ နည်းပညာဖြင့် အကာအကွယ် ရှိဖို့အပြင် လိုအပ်သော စည်းမျဥ်းစည်းကမ်းများ လုပ်ဆောင်ဖို့လည်း လိုအပ်ပါတယ်။ လက်ရှိဥပဒေများနှင့် ဥပဒေသစ်များအတွက် အဆိုပြုချက်များအနက် Deepfake ဗီဒီယိုများ ဖြန့်ဝေခြင်းကို ပြစ်မှုအဖြစ် ဆောင်ရွက်နိုင်မလား။ Deepfake ဗီဒီယိုများ ဖြန့်ဝေသူများကို တရားစွဲဖို့ အခွင့်အရေးရမလား၊ ဒါမှမဟုတ် ၎င်းတို့ကို အသုံးပြုထားသည့် ပလက်ဖောင်းများကို တရားစွဲဖို့ အခွင့်အရေးရမလား ဆိုတာတွေကလည်း နိုင်ငံအလိုက် မတူညီသော သဘောထားများ၊ ဥပဒေများ ရှိနေပါတယ်။

United Kingdom နိုင်ငံတွင် ၂၀၂၃ ခုနှစ်၌ Online Safety Act တွင် Deepfake ဗီဒီယိုများ ဖြန့်ဝေခြင်းနှင့် ဖန်တီးခြင်းကို ပြစ်မှုအဖြစ် သတ်မှတ်ခဲ့ကြတယ်။ သြစတြေးလျနိုင်ငံတွင် ၂၀၂၁ ခုနှစ် အတွင်း ခွင့်ပြုချက်မပါဘဲ ပုံများ တင်ခြင်းမှာ ရာဇဝတ်ပြစ်မှုအဖြစ် သတ်မှတ်ပြင်ဆင်ခဲ့တယ်။ Deepfake ပုံများကို အထူး ရည်ညွှန်းသည့် ဥပဒေတစ်ရပ်ဖြစ်သည်။ တောင်ကိုရီးယားနိုင်ငံတွင်လည်း Deepfake ပုံများ၊ ဗီဒီယိုများ၊ အသံဖိုင်များကို တိုက်ရိုက် ကာကွယ်ရန် ဥပဒေတစ်ရပ်ရှိပြီး တရုတ်နိုင်ငံတွင် “Synthetic Content” ဖြန့်ဝေခြင်းကို ကန့်သတ်သော ဥပဒေတစ်ရပ် ရှိနေတာ တွေ့ရပါတယ်။

အဆိုပါ Deepfake Pornography ကို အဖွဲ့အစည်းများက အရေးယူသည့် ဥပဒေများ၊ စည်းမျဉ်းများ ချမှတ်မှုနှင့်အတူ Alecto AI နှင့် That’sMyFace ကဲ့သို့သော အမျိုးသမီး စွမ်းဆောင်ရှင် ကုမ္ပဏီများမှ နည်းပညာဝန်ဆောင်မှုများကလည်း အမျိုးသမီးများကို ကာကွယ်ရန် လိုအပ်ချက်များကို ဖြည့်ဆည်းပေးနိုင်အောင် ဆောင်ရွက်လာကြပါတယ်။ ၂၀၂၀ ခုနှစ်တွင် Intel ကုမ္ပဏီနှင့် သူ၏ မိတ်ဖက်အဖွဲ့အစည်းများ၏ Artificial Intelligence နှင့် Deep Learning Technologies ကို အသုံးပြုပြီး Deepfake Videos များကို ဖော်ထုတ်သော FakeCatcher AI Tool သည် Deepfake ဗီဒီယိုများကို တိကျစွာခွဲခြားသတ်မှတ်ရန် အချိန်နှင့်တစ်ပြေးညီ လုပ်ဆောင်လာနိုင်ပါတယ်။ FakeCatcher သည် ဇီဝကမ္မနှင့် အမြင်အာရုံလက္ခဏာများကို ပိုင်းခြားစိတ်ဖြာရန် အဆင့်မြင့် AI Algorithm ကိုအသုံးပြုထားတဲ့ PPG ဟုရည်ညွှန်းသော Photoplethysmography ကို အသုံးပြုပြီး ဗီဒီယိုသည် အတုဟုတ်/မဟုတ် အမျိုးအစားခွဲခြားရန် နက်နဲသော Deep Learning Approach ကို အသုံးပြုထားပြီး 96% တိကျမှုအဆင့် သတ်မှတ်ပေးရန်အတွက် မျက်လုံးအကြည့်ကို အခြေခံ၍ ထောက်လှမ်းခြင်းကိုလည်း လုပ်ဆောင် ထားကြောင်း သိရပါတယ်။ Deepfake နည်းပညာ၏ အလားအလာရှိသော အန္တရာယ်များအကြောင်းကို အသိပညာ ပေးခြင်းနှင့် ထိုကဲ့သို့သော အကြောင်းအရာများကို ဖော်ထုတ်ရန် လိုအပ်သော နည်းပညာများကို မြှင့်တင်ပေးခြင်းဖြင့် အမျိုးသမီးများ၏ အွန်လိုင်းလုံခြုံရေးကို အထောက်အပံ့ ပေးနိုင်မှာ ဖြစ်ပါတယ်။ AI ကို တိုက်ဖျက်ရန် AI ကို အသုံးပြုရမည်ဆိုသော်ငြားလည်း မိမိတို့ လူမှုအသိုင်းအဝိုင်းမှာ ဒီလို တိုက်ခိုက်မှုတွေကို အစကတည်းက မဖြစ်ရအောင် ကြိုးစားသွားကြဖို့ အလေးအနက် တိုက်တွန်းချင်ပါတယ်။

Reference: IEEE Spectrum Magazine, 2024

စာပန်းခင်း (မစ်ဂရန်းအိုင်တီစီအက်စ်တီစီ)