സ്വന്തമായി നിർമ്മിച്ച വ്യാജ ചിത്രങ്ങൾ പോലും തിരിച്ചറിയാൻ കഴിയാതെ എഐ ചാറ്റ്ബോട്ട്; പിന്നാലെ ആശങ്ക

Published: Friday, November 21, 2025, 14:08 [IST]

എഐ ചാറ്റ്ബോട്ടുകൾക്ക് സ്വന്തമായി നിർമ്മിച്ച വ്യാജ ചിത്രങ്ങൾ പോലും തിരിച്ചറിയാൻ കഴിയുന്നില്ലെന്ന് വ്യക്തമാക്കി പഠനങ്ങൾ. ഇത് തെറ്റിദ്ധാരണകൾ വർധിപ്പിക്കുമെന്ന ആശങ്കകൾക്ക് വഴിയൊരുക്കുകയാണ് ഇപ്പോൾ. ഒരു വലിയ അഴിമതിക്കേസിൽ പ്രതിയായ രാഷ്ട്രീയക്കാരന്റെ വൈറലായ ചിത്രം ശരിയാണോ എന്ന് പരിശോധിക്കാൻ ഫിലിപ്പീൻസിലെ ജനങ്ങൾ ഒരു എഐ ചാറ്റ്ബോട്ടിനെ സമീപിച്ചപ്പോൾ, ആ ചാറ്റ്ബോട്ട് ചിത്രം ശരിയാണെന്ന് സ്ഥിരീകരിക്കുകയായിരുന്നു.

എന്നാൽ ആ ചിത്രം ഉണ്ടാക്കിയത് ഈ ചാറ്റ്ബോട്ട് തന്നെയായിരുന്നു എന്നതാണ് വിരോധാഭാസം. ചിത്രങ്ങൾ യഥാർത്ഥമാണോ എന്ന് പരിശോധിക്കാൻ ലോകമെമ്പാടുമുള്ള ഉപയോക്താക്കൾ ചാറ്റ്ബോട്ടുകളെ കൂടുതലായി ആശ്രയിക്കുന്ന സാഹചര്യത്തിലാണ് ഈ കണ്ടെത്തൽ. പ്രധാനപ്പെട്ട സാങ്കേതിക കമ്പനികൾ മാനുഷിക വസ്‌തുത പരിശോധനാ സംഘങ്ങളെ വെട്ടിച്ചുരുക്കുന്ന ഈ കാലഘട്ടത്തിൽ ഇത്തരം സംവിധാനങ്ങൾ പിഴവ് വരുത്തുന്നത് ഗുരുതരമായ ആശങ്കകളുയർത്തുന്നു.

മുൻ നിയമനിർമ്മാതാവായ എലിസാൽഡി കോയുടെ വ്യാജചിത്രം വലിയ രീതിയിൽ പ്രചരിച്ചിരുന്നു. കോടിക്കണക്കിന് രൂപയുടെ വെള്ളപ്പൊക്ക നിയന്ത്രണ അഴിമതിക്കേസിൽ പ്രതിയായ ഇദ്ദേഹം പോർച്ചുഗലിൽ പ്രത്യക്ഷപ്പെട്ടു എന്നായിരുന്നു പ്രചരണം. ഓൺലൈൻ അന്വേഷകർ ഗൂഗിളിന്റെ പുതിയ എഐ മോഡിനോട് ഈ ചിത്രം ശരിയാണോ എന്ന് ചോദിച്ചപ്പോൾ, ചാറ്റ്ബോട്ട് ഇത് ആധികാരികമാണെന്ന് ഉറപ്പിച്ചു പറഞ്ഞു.

എന്നാൽ ഔദ്യോഗിക അന്വേഷണം ആരംഭിച്ചതിന് ശേഷം കോയുടെ ഒളിത്താവളം ഇതുവരെ കണ്ടെത്താനായിട്ടില്ല. ഈ സാഹചര്യത്തിൽ പോർച്ചുഗലിൽ അദ്ദേഹത്തെ കണ്ടുവെന്ന ചിത്രം വലിയ ചർച്ചയായി. എഎഫ്‌പി വസ്‌തുതാ പരിശോധകർ പിന്നീട് ഈ ചിത്രത്തിന്റെ ഉറവിടം കണ്ടെത്തി. ഗൂഗിളിന്റെ നാനോ ബനാന / ജെമിനി ഇമേജ് ജനറേറ്റർ ഉപയോഗിച്ച് ഒരു ഫിലിപ്പീനോ വെബ് ഡെവലപ്പർ നിർമ്മിച്ചതായിരുന്നു ഈ ചിത്രം.

വെറുമൊരു തമാശയ്ക്ക് വേണ്ടി ഉണ്ടാക്കിയതാണ് ഈ ചിത്രമെന്നാണ് ഈ ഫിലിപ്പിനോ വെബ് ഡെവലപ്പർ പറയുന്നത്. ആയിരക്കണക്കിന് ആളുകളിലേക്ക് ചിത്രം എത്തിയപ്പോൾ താൻ അത് "AI ജനറേറ്റഡ്" എന്ന് ലേബൽ ചെയ്‌ത്‌ എഡിറ്റ് ചെയ്‌തതായും അദ്ദേഹം കൂട്ടിച്ചേർത്തു. എന്നാൽ ഇത് ഒറ്റപ്പെട്ട സംഭവമല്ല എന്നാണ് വിലയിരുത്തൽ. സമാനമായ പിഴവുകൾ പലപ്പോഴും റിപ്പോർട്ട് ചെയ്യപ്പെടുന്നുണ്ട്.

ചിത്രങ്ങളും വീഡിയോകളും നിർമ്മിക്കാൻ രൂപകൽപ്പന ചെയ്‌ത ഈ എഐ മോഡലുകൾക്ക് പാറ്റേണുകൾ അനുകരിക്കാൻ മാത്രമാണ് കഴിയുന്നത്, കൃത്രിമത്വം കണ്ടെത്താൻ സാധിക്കില്ല എന്നാണ് ചില വിദഗ്‌ധർ അഭിപ്രായപ്പെടുന്നത്. ഒരു ചിത്രം ഒരേ മോഡലിൽ നിന്നുള്ളതാണെങ്കിൽ പോലും, ചാറ്റ്ബോട്ടുകൾ സ്ഥിരതയില്ലാത്തതും വിശ്വസനീയമല്ലാത്തതുമായ പരിശോധന ഫലങ്ങളാണ് നൽകുന്നത്.

കാര്യങ്ങൾ യഥാർത്ഥമായി തോന്നിക്കുക എന്നതാണ് എഐയുടെ ജോലി. സ്വന്തം ഉൽപ്പന്നത്തെ യാഥാർത്ഥ്യത്തിൽ നിന്ന് വേർതിരിച്ചറിയാൻ അതിനറിയില്ല എന്നായിരുന്നു സിഗ്ല റിസർച്ച് സെന്ററിലെ റോസിൻ ഫല്ലോറിനയുടെ അഭിപ്രായം. എഐയെ തോൽപ്പിക്കാൻ നമുക്ക് എഐയെ ആശ്രയിക്കാൻ കഴിയില്ലല്ലെന്നും ഫല്ലോറിന കൂട്ടിച്ചേർത്തു. എന്തായാലും ഈ സംഭവം വലിയ ചർച്ചകൾക്ക് തന്നെയാണ് വഴിയൊരുക്കുന്നത്.

Published On November 21, 2025