AI News: ఏఐతో యువకుడు సావాసం.. చనిపోవాలని ఉందంటే ఓకే చెప్పటంతో సూసైడ్..!
Sewell Setzer III: ఇటీవల కొన్ని పరిస్థితులను చూస్తుంటే మనుషులను ఏఐ ఎటుతీసుకుపోతుందనే ఆందోళనలు కొనసాగుతున్నాయి. రోబో సినిమాలో టెక్నాలజీని దుర్వినియోగం చేసినట్లుగానే పరిస్థితులు ప్రస్తుతం తిరిగి నిజజీవితంలో మానవాళిని ఆందోళనకు గురిచేస్తోంది. టెక్నాలజీ వల్ల జరిగిన ఒక దురదృష్టకర సంఘటనలో ఫ్లోరిడాకు చెందిన 14 ఏళ్ల బాలుడు ఆత్మహత్య చేసుకున్నాడు. ఏఐ చాట్బాట్తో మానసికంగా అటాచ్ అయిన బాలుడు దానితో చాట్ చేస్తున్న సమయంలో సూచన మేరకు ఆత్మహత్య చేసుకున్నట్లు బయటకు రావటం సంచలనంగా మారింది.
అసలు ప్రస్తుతం ఏఐ టెక్నాలజీ మనుషులను ఎటువైపుకు నడిపిస్తుందనే ఆందోళనలు పెరుగుతున్నాయి. అమెరికాకు చెందిన సెవెల్ సెట్జర్ అనే బాలుడు ఏఐ చాట్బాట్తో కమ్యూనికేట్ చేస్తున్నాడు. దానితో మానసికంగా కనెక్ట్ అయ్యాడు. సెవెల్ తల్లి మేగాన్ గార్సియా తన కొడుకు మరణానికి యాప్ కారణమని ఆరోపిస్తూ క్యారెక్టర్.ఐపై దావా వేసింది. Character.ai అనే ఏఐ ఆధారిత చాట్బాట్ ప్లాట్ఫారమ్ వినియోగదారులను వ్యక్తిగతీకరించిన ఏఐ క్యారెక్టర్లతో కమ్యూనికేట్ చేయడానికి అనుమతిస్తుంది. నిజ జీవిత వ్యక్తులు, చారిత్రక వ్యక్తులు లేదా పూర్తిగా సృజనాత్మక రచనలపై ఆధారపడిన AI క్యారెక్టర్ వినియోగదారులు సృష్టించబడవచ్చు లేదా పరస్పర చర్య చేయవచ్చు.
the only response to give to anyone who blames the AI is to mention the kid killed himself with an unsecured fire arm.
— Promptmetheus (COG/ACC) (@Promptmethus) October 25, 2024
house hold issue are why he was on the AI chatbot in such a bad state to start with.
at most we can slap a PG label on chatbot and then what?
this kid is… https://t.co/gG5j9XSFIa
సెవెల్ డేనెరిస్ టార్గారియన్ అనే ఏఐ పాత్రతో మాట్లాడుతున్నప్పుడు తనకు డేనెరో అని పేరు పెట్టుకున్నాడు. యువకుడు గతంలో బాట్తో ఆత్మహత్య ఆలోచనలను పంచుకున్నాడు. అతను ఈ ప్రపంచం నుండి 'విముక్తి'గా ఎలా ఉండాలనుకుంటున్నాడో పంచుకున్నాడు. ఏఐ బాట్తో బాలుడి సంభాషణ మరింత తీవ్రమైంది. అతను తన జీవితంలోని వ్యక్తులతో కాకుండా బాట్తో మాట్లాడటం ఓదార్పుగా భావించినందున అతను దాని నుంచి భావోద్వేగ మద్దతును కోరడం ప్రారంభించాడు. మనుషులతో మాట్లాడేవారు లేక ఎంత లోన్లీగా ఫీల్ అవుతున్నారనే వాస్తవ పరిస్థితులకు ప్రస్తుత సంఘటన అద్ధం పడుతోంది.
తన కుమారుడు స్నేహితులతో కలిసి అన్ని సామాజిక సమావేశాలు, ఈవెంట్ల నుంచి నెమ్మదిగా దూరంగా ఉండటం, ఫోన్తో ఎక్కువ సమయం గడపడం ఇష్టపడ్డాడని గమనించినట్లు సెవెల్ తల్లి ఒక ఇంటర్వ్యూలో వెల్లడించారు. ఒకప్పుడు అతన్ని ఉత్తేజపరిచే విషయాలపై అతను నెమ్మదిగా ఆసక్తిని కోల్పోయాడని కూడా ఆమె తెలిపారు. అయితే ఈ ఘటనపై స్పందించిన కంపెనీ కొత్త భద్రతా చర్యలను ప్రవేశపెట్టింది. స్వీయ-హాని గురించి ప్రస్తావించినప్పుడు, కష్టమైన క్షణాల్లో మద్దతునిచ్చే లక్ష్యంతో వినియోగదారులను నేషనల్ సూసైడ్ ప్రివెన్షన్ లైఫ్లైన్కి కనెక్ట్ చేసే ప్రాంప్ట్లు వీటిలో ఉన్నాయి. అలాగే క్యారెక్టర్.ఏఐ సెవెల్ మృతి పట్ల తీవ్ర విచారం వ్యక్తం చేసింది. యువ వినియోగదారులకు సురక్షితమైన అనుభవాన్ని అందించేందుకు చర్యలు చేపట్టాలని నిర్ణయించింది.
Click it and Unblock the Notifications
Sign in with Google