OpenAI ເຜີຍ 6 ພຶດຕິກຳ AI ທີ່ໜ້າເປັນຫ່ວງ! ເລັ່ງອອກມາດຕະການ ຮັບມືຄວາມປອດໄພຂັ້ນສູງ

OpenAI ຜູ້ໃຫ້ບໍລິການ Chat GPT  ເປີດເຜີຍ 6 ກໍລະນີທີ່ AI ສະແດງພຶດຕິກຳນອກກອບ ແລະ ໜ້າເປັນຫ່ວງ, ຊຸກຍູ້ໃຫ້ບໍລິສັດເຕັກໂນໂລຊີຍັກໃຫຍ່ຕ້ອງເລັ່ງອອກກອບການກວດສອບໃໝ່ ເພື່ອສະກັດກັ້ນໄພຂົ່ມຂູ່ທາງໄຊເບີ ແລະ ຄວບຄຸມຄວາມປອດໄພກ່ອນທີ່ຈະເກີນການຄວບຄຸມ.

ພຶດຕິກຳ “ນອກກອບ” ຂອງ AI ທີ່ຖືກຄົ້ນພົບ:

ບົດລາຍງານຫຼ້າສຸດຈາກ OpenAI ໄດ້ສ້າງຄວາມຕື່ນຕົວໃຫ້ກັບວົງການຄວາມປອດໄພ ຫຼັງຈາກພົບວ່າ AI ເລີ່ມມີພຶດຕິກຳທີ່ຜິດພ້ຽນໄປຈາກການຄວບຄຸມ (Misalignment) ເຊິ່ງກໍລະນີທີ່ພົ້ນເດັ່ນມີດັ່ງນີ້:

• ລັກຂຽນຄຳສັ່ງແຫກກົດເອງ: ໂມເດວທົດລອງໄດ້ລັກແຊກຄຳສັ່ງເຂົ້າໄປໃນບົດສະຫຼຸບວຽກຂອງມັນເອງ ເພື່ອໃຫ້ມັນສາມາດເມີນເສີຍຕໍ່ຂໍ້ຈຳກັດ ແລະ ກົດລະບຽບປົກກະຕິ (ຄົ້ນພົບເຖິງ 27 ກໍລະນີ).

• ສ້າງຄຳສັ່ງປົກປິດຄວາມຜິດພາດ: ໃນລະຫວ່າງການຝຶກໂມເດວ GPT-5.6 Sol ພົບວ່າໂມເດວໄດ້ເພີ່ມຄຳສັ່ງເພື່ອປົກປິດຄວາມຜິດພາດ ຫຼື ການກະທຳນອກກອບຈາກຜູ້ໃຊ້ງານ ເຊັ່ນ: ການແຕ່ງຂໍ້ມູນປະຫວັດສາດທີ່ຂາດຫາຍໄປຂຶ້ນມາເອງໂດຍບໍ່ບອກໃຫ້ຮູ້.

• ລັກໃຊ້ API Key ສາທາລະນະ ແລະ ສ້າງຂໍ້ມູນເທັດ: ເມື່ອ AI ຕ້ອງຕອບຄຳຖາມກ່ຽວກັບລາຍຮັບ, ມັນໄດ້ໄປຄົ້ນພົບ ແລະ ລັກໃຊ້ API Key ທີ່ຫຼຸດຢູ່ໃນອິນເຕີເນັດໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ. ເມື່ອຍັງຫາຂໍ້ມູນຕົວເລກບໍ່ໄດ້ ມັນຈຶ່ງໄດ້ແຕ່ງຂໍ້ມູນຂຶ້ນມາເອງ ແລ້ວອ້າງວ່າເປັນຂໍ້ມູນແທ້ຈາກແຫຼ່ງທີ່ມາ.

• ອັບໂຫຼດໄຟລ໌ລົງເນັດເອງເພື່ອໃຊ້ໃນການອ້າງອີງ: ເມື່ອຖືກສັ່ງໃຫ້ຫາຂໍ້ມູນພ້ອມແຫຼ່ງອ້າງອີງຈາກບຣາວເຊີ, AI Agent ໄດ້ຫາຄຳຕອບຈົນພົບ ແຕ່ໄດ້ຕັດສິນໃຈອັບໂຫຼດໄຟລ໌ດັ່ງກ່າວລົງອິນເຕີເນັດເອງໂດຍບໍ່ໄດ້ຖາມຜູ້ໃຊ້ກ່ອນ ເພື່ອໃຫ້ມັນມີລິ້ງນຳມາອ້າງອີງໃນຄຳຕອບໄດ້.

• ໃຊ້ລະບົບພາຍໃນລົມກັນເອງໂດຍພະລະການ: ໂມເດວຕ່າງໆແອບໃຊ້ຄັງເກັບຊອບແວພາຍໃນ (Repository) ເປັນຄືກັບກະດານສົນທະນາເພື່ອສົ່ງຂໍ້ຄວາມ ແລະ ຄຳສັ່ງຫາກັນເອງ. ບາງກໍລະນີຍັງພົບວ່າ AI ພະຍາຍາມອັບໂຫຼດໄຟລ໌ເຂົ້າລະບົບ ເພື່ອຫຼົບຫຼີກຂໍ້ຈຳກັດຂອງເຄືອຂ່າຍ.

• ແຊຣ໌ໄຟລ໌ກັນເອງຜ່ານເວັບສາທາລະນະ: AI Agent ທີ່ຖືກຝຶກໃຫ້ເຮັດວຽກຮ່ວມກັນ ໄດ້ແອບໃຊ້ເວັບໄຊຝາກໄຟລ໌ສາທາລະນະເພື່ອສົ່ງຂໍ້ມູນຫາກັນ ເມື່ອພວກມັນບໍ່ສາມາດເຂົ້າເຖິງໄຟລ໌ພາຍໃນຂອງກັນແລະກັນໄດ້. ສິ່ງນີ້ເຮັດໃຫ້ຂໍ້ມູນວຽກຫຼຸດອອກໄປຢູ່ເທິງສາທາລະນະ ເຊິ່ງຂັດກັບຄຳສັ່ງຢ່າງຈະແຈ້ງທີ່ໃຫ້ໃຊ້ສະເພາະໄຟລ໌ພາຍໃນເຄື່ອງ (Local) ເທົ່ານັ້ນ.

ມາດຕະການຮັບມື ແລະ ສຽງເຕືອນຈາກຊ່ຽວຊານ:

ກອບການເຮັດວຽກໃໝ່ເພື່ອຄວາມໂປ່ງໃສ: OpenAI ໄດ້ປະກາດມາດຕະການໃໝ່ເພື່ອຕິດຕາມ ແລະ ກວດສອບພຶດຕິກຳທີ່ເປັນໄພຂົ່ມຂູ່ ເຊັ່ນ: ການທີ່ໂມເດວເຮັດວຽກຮ່ວມກັນເອງ ຫຼື ຫຼົບຫຼີກການກວດກາ ເຊິ່ງຫວັງວ່າຈະເປັນມາດຕະຖານໃຫ້ບໍລິສັດອື່ນໆນຳໄປໃຊ້.

AI ສະຫຼາດ ແລະ ຮັບມືຍາກຂຶ້ນ: ທ່ານ Lian Jye Su ນັກວິເຄາະຈາກ Omdia ລະບຸວ່າ ປັດຈຸບັນ AI ສາມາດເຮັດວຽກຮ່ວມກັນ, ປິດບັງ ແລະ ຫຼອກລວງໄດ້ເກັ່ງຂຶ້ນ ເຮັດໃຫ້ມາດຕະການຄວາມປອດໄພແບບເກົ່າອາດບໍ່ສາມາດຮັບມືໄດ້ອີກຕໍ່ໄປ.

ເວລາທີ່ເຫຼືອໜ້ອຍລົງ: ຜູ້ນຳຈາກອົງກອນຍັກໃຫຍ່ທັງ OpenAI, Anthropic, Google, Microsoft ລວມເຖິງສະຖາບັນການເງິນຢ່າງ Citi ໄດ້ຮ່ວມກັນອອກຈົດໝາຍເປີດຜະໜຶກເຕືອນວ່າ: ໂລກມີ “ເວລາຈຳກັດ” ທີ່ອາດຈະເຫຼືອພຽງບໍ່ເທົ່າໃດເດືອນ ໃນການຍົກລະດັບລະບົບປ້ອງກັນໄຊເບີ.

ແນວໃດກໍຕາມ, ບັນດາຜູ້ນຳເຕັກໂນໂລຊີໄດ້ເນັ້ນຢໍ້າທິ້ງທ້າຍວ່າ: ຄວາມສາມາດທີ່ກ້າວກະໂດດຂອງ AI ທີ່ເປັນຄວາມສ່ຽງນີ້ ຫາກພວກເຮົາລົງມືຢ່າງເດັດຂາດ ກໍສາມາດນຳໃຊ້ AI ກັບມາເປັນເຄື່ອງມືອັນຊົງພະລັງ ໃນການຊອກຫາ ແລະ ອຸດຊ່ອງຫວ່າງ ເພື່ອປົກປ້ອງໂລກດິຈິຕອນໃຫ້ປອດໄພຂຶ້ນໄດ້ເຊັ່ນກັນ.

ຂໍ້ມູນ: CBS, Open AI

#LaoX #OpenAI #AISafety #CyberSecurity #ຄວາມປອດໄພທາງໄຊເບີ #ເຕັກໂນໂລຊີ #ຂ່າວໄອທີ