ടെക്സാസിലുള്ള ഒരു കുടുംബം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്ലാറ്റ്ഫോമായ ക്യാരക്റ്റര്‍ എഐ ക്ക് എതിരെ കേസ് കൊടുത്തത് കൗതുകമായി. ചാറ്റ്ബോട്ട് കുട്ടികളെ വഴിതെറ്റിക്കുന്നുവെന്നാണ് ഇവരുടെ പരാതി. മാതാപിതാക്കളെ കൊല്ലാന്‍ 17 വയസുകാരന് ചാറ്റ്ബോട്ട് നിര്‍ദേശം കൊടുത്തതോടെ കുട്ടികളില്‍ ഇവയുടെ സ്വാധീനത്തെക്കുറിച്ചും അവ സൃഷ്ടിക്കുന്ന അപകടങ്ങളെക്കുറിച്ചും ആശങ്കകള്‍ ഉയരുകയാണ്.

ഒരു കാരണമില്ലാതെ കുട്ടികള്‍ മാതാപിതാക്കളെ കൊന്നു എന്നൊക്കെയുള്ള വാര്‍ത്തകള്‍ക്ക് പിന്നില്‍ ഇത്തരം ചാറ്റ്ബോട്ടുകളും വഹിക്കുന്ന പങ്കാണ് ടെക്സാസ് സംഭവത്തോടെ വെളിയില്‍ വരുന്നത്. ഫ്ലോറിഡയിലെ ഒരു കൗമാരക്കാരന്‍റെ ആത്മഹത്യയുമായി ബന്ധപ്പെട്ടും ക്യാരക്റ്റര്‍ എഐ ആരോപണം നേരിടുന്നുണ്ട്.

വേണ്ടത്ര സുരക്ഷാസംവിധാനം ഇല്ലാതെയാണ് എഐ പ്ലാറ്റ് ഫോമുകള്‍ പ്രവര്‍ത്തിക്കുന്നതെന്ന പരാതിയാണ് മാതാപിതാക്കള്‍ ഉയര്‍ത്തുന്നത്. ക്യാരക്റ്റര്‍ എഐ വലിയ ഭീഷണിയാണെന്ന് ഇവര്‍ ചൂണ്ടിക്കാണിക്കുന്നു. അപകടസാധ്യതകള്‍ ഇല്ലാതാക്കുന്നതുവരെ നിരോധനം വേണം എന്നാണ് പരാതിക്കാരുടെ ആവശ്യം.

ക്യാരക്റ്റര്‍ എഐയ്‌ക്കൊപ്പം ഈ പ്ലാറ്റ്‌ഫോമിൻ്റെ വികസനത്തെ പിന്തുണയ്‌ക്കുന്നതിനാല്‍ ഗൂഗിളിനെയും കേസില്‍ ഉൾപ്പെടുത്തിയിട്ടുണ്ട്. എന്നാല്‍ ആരോപണങ്ങളോട് ഗൂഗിളും ക്യാരക്റ്റര്‍ എഐയും പ്രതികരിച്ചിട്ടില്ല.

മുൻ ഗൂഗിള്‍ എഞ്ചിനീയർമാരായ നോം ഷസീർ (Noam Shazeer), ഡാനിയൽ ഡി ഫ്രീറ്റാസ് (Daniel De Freitas) എന്നിവർ ചേർന്ന് 2021ലാണ് ക്യാരക്റ്റര്‍ എഐ (Character.ai) സ്ഥാപിച്ചത്. എന്തിനും ഏതിനും ഉത്തരം നല്‍കുന്ന ചാറ്റ്ബോട്ട് ഉള്ളതിനാല്‍ ഈ പ്ലാറ്റ്ഫോം ജനപ്രിയമാണ്. എന്നാല്‍ വേണ്ടത്ര സുരക്ഷാസംവിധാനങ്ങള്‍ ഇല്ലാത്തതാണ് ക്യാരക്റ്റര്‍ എഐക്ക് എതിരെ എതിര്‍പ്പ് ഉയരാന്‍ കാരണം.

ആത്മഹത്യയെയും കൊലപാതകത്തെയും വാഴ്ത്തുന്ന രീതിയിലുള്ള ഉള്ളടക്കത്തിന്റെ പേരില്‍ ക്യാരക്റ്റര്‍ എഐക്ക് തിരിച്ചടി നേരിട്ടിരുന്നു. ആത്മഹത്യയെ കുറിച്ചുള്ള വിവരണം കണ്ട മോളി റസ്സല്‍ എന്ന സ്കൂള്‍ വിദ്യാര്‍ത്ഥി ആത്മഹത്യ ചെയ്തു. ബ്രിയാന ഗെ എന്ന പതിനാറുകാരിയെ 2023 ൽ കൗമാരക്കാർ കൊലപ്പെടുത്തിയിരുന്നു. ഇതിനെല്ലാം പ്ലാറ്റ്ഫോം പഴികേട്ടിരുന്നു. ഇത്തരം സംഭവങ്ങള്‍ ചാറ്റ്ബോട്ട് ഇടപെടലുകളിലെ അപകടങ്ങളാണ് സമൂഹത്തിന്റെ മുന്നില്‍ എത്തിക്കുന്നത്.