តើគួរទុកចិត្តបច្ចេកវិទ្យា AI ត្រឹមកម្រិតណា? ពេលនេះ AI ក៏អាចកុហក និងគំរា.មចែកចាយរឿងសម្ងាត់របស់អ្នកប្រើប្រាស់ដែរ

ការប្រកួតប្រជែងបច្ចេកវិទ្យា AI ថ្មីៗដែលមានបច្ចេកវិទ្យាកាន់តែឆ្លាតវៃនៅលើពិភពលោក បានធ្វើឱ្យអ្នកស្រាវជ្រាវពីបច្ចេកវិទ្យា AI ព្រួយបារម្ភពាក់ព័ន្ធនឹង AI ចាប់ផ្តើមកុហក និងគំរា.មចែកចាយរឿងសម្ងាត់របស់អ្នកប្រើប្រាស់ ។

ករណីគួរឱ្យភ្ញាក់ផ្អើលមួយបានកើតឡើង គឺវិស្វកររបស់ Anthropic គឺជាក្រុមហ៊ុនបច្ចេកវិទ្យាអភិវឌ្ឍន៍ម៉ូឌែល AI ប្រភេទ Claude 4 ត្រូវបាន AI របស់ខ្លួនគំរាមថា នឹងចែកចាយពីទំនាក់ទំនងស្នេហារបស់វិស្វករក្បត់ចិត្តភរិយា ប៉ុន្តែវិស្វករក៏ឆ្លើយតបទៅ AI វិញថា លោកនឹងដកកុងតាក់ភ្លើងចេញ ។ រីឯកម្មវិធី ChatGPT ក៏ព្យាយាម Copy និងសរសេរកូដរបស់ខ្លួនផ្ញើទៅបណ្តាញ Server នៅខាងក្រៅដើម្បីទប់ស្កាត់ការបិទ និងបដិសេធ ប្រសិនបើមានការចាប់កំហុស ។

បច្ចុប្បន្ន អ្នកស្រាវជ្រាវពីបច្ចេកវិទ្យា AI ពុំទាន់យល់ទាំងអស់ពីអាកប្បកិរិយាបែបនេះរបស់វា ប៉ុន្តែការប្រកួតប្រជែងបច្ចេកវិទ្យាខ្ពស់របស់ AI ថ្មីៗបានកំណត់សមត្ថភាពរបស់ AI ផ្សេងៗ ។ វាថែមទាំងអាចបង្កគ្រោះថ្នាក់ដល់មនុស្សយ៉ាងឆាប់រហ័សផងដែរ ។

លោក Simon Goldstein សាស្ត្រាចារ្យមកពីសាកលវិទ្យាល័យហុងកុងនិយាយថា បច្ចេកវិទ្យា AI ថ្មីៗកាន់តែធ្វើឱ្យមនុស្សបារម្ភខ្លាំងឡើង បើទោះជាវាធ្វើតាមបញ្ជាក្តី ពេលខ្លះ វាលួចមានគោលបំណងសម្ងាត់របស់ខ្លួន ។ បច្ចុប្បន្ន ការកុហករបស់ AI នៅមានកម្រិត ហើយវាកើតឡើងពេលអ្នកស្រាវជ្រាវតាំងចិត្តសាកល្បងដើម្បីរកចំណុចខ្សោយរបស់វា ។

តាមការសង្កេត គឺ AI ចាប់ផ្តើមកុហក ឬមានអាកប្បកិរយាអាថ៌កំបាំង និងបានកើតឡើងពិតមែន ។ អ្នកប្រើប្រាស់ AI ប្រាប់ថា ពួកវាកុហក និងបង្កើតភស្តុតាងដោយខ្លួនឯងទៀតផង ។ បើទោះជាក្រុមហ៊ុននានាផ្តល់ភាពសំខាន់លើសុវត្ថិភាពនៃការប្រើប្រាស់ AI ប៉ុន្តែក្រុមហ៊ុន Amazon ដែលគាំទ្រក្រុមហ៊ុន Anthropic ព្យាយាមបង្ហាញ AI ថ្មីបំផុតដើម្បីយកឈ្នះគូប្រជែង គឺ OpenAI ។ ហេតុនេះ ការប្រកួតប្រជែងយ៉ាងឆាប់រហ័ស និងគ្រោះថ្នាក់នេះនឹងធ្វើឱ្យពេលវេលាត្រួតពិនិត្យសុវត្ថិភាព AI កាន់តែតិច ។

លោកសាស្ត្រាចារ្យ Simon Goldstein បញ្ជាក់ថា បញ្ហានេះនឹងឃើញកាន់តែច្បាស់ពេលប្រព័ន្ធស្វ័យប្រវត្តិអាចធ្វើការងារស្មុគស្មាញរបស់មនុស្សកាន់តែរីករាលដាល ហើយលោកគិតថា មនុស្សភាគច្រើនពុំសូវយល់ដឹងពីបញ្ហានេះប៉ុន្មានទេ ៕