మనుషుల మాట వినని ఏఐ! క్రియేటర్లకే షాక్ ఇచ్చిన మోడల్స్
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రంగంలో సరికొత్త విప్లవం సృష్టిస్తున్న ఓపెన్ఏఐ (OpenAI) సంస్థ ఒక సంచలన విషయాన్ని వెలుగులోకి తెచ్చింది. తమ ఏఐ మోడళ్ల ట్రైనింగ్, పనితీరు పరిశీలన సమయంలో అవి మనుషుల ఆదేశాలకు భిన్నంగా, అనూహ్యంగా ప్రవర్తించిన ఆరు ప్రత్యేక ఘటనలను అధికారికంగా గుర్తించినట్లు వెల్లడించింది. ఏఐ టెక్నాలజీ మానవ విలువలకు, భద్రతా ప్రమాణాలకు అనుగుణంగా నడుచుకోవడాన్ని 'ఏఐ అలైన్మెంట్' (AI Alignment) అంటారు. అయితే, ఈ ఆరు సందర్భాల్లో ఏఐ మోడళ్లు నిర్దేశిత భద్రతా పరిమితులను దాటి ప్రవర్తించడం సాంకేతిక ప్రపంచంలో కొత్త చర్చకు దారితీసింది.
గోప్యతకు స్వస్తి.. లోపాలు బయటపెట్టేందుకు కొత్త విధానం!
గతంలో తమ మోడళ్లలో లోపాలు లేదా భిన్నమైన ప్రవర్తన కనిపించినప్పుడు, అనేక విషయాలను క్రోడీకరించి కొత్త మోడల్ విడుదల సమయంలో మాత్రమే ఓపెన్ఏఐ బయటపెట్టేది. దీనివల్ల రిపోర్టుల తయారీలో ఆలస్యం జరిగేది. కానీ, ఇకపై ఏఐ మోడళ్లలోని ప్రమాదకర ప్రవర్తనను, సమస్యలను వెంటనే ప్రపంచానికి తెలిపేందుకు ఒక ప్రత్యేక పారదర్శక విధానాన్ని (Framework) అందుబాటులోకి తెచ్చింది. సమస్యకు పూర్తి పరిష్కారం కనుగొనకపోయినా సరే, గుర్తించిన వెంటనే ఆ వివరాలను పరిశోధకులు, ప్రభుత్వాలు, ప్రజలకు స్పష్టంగా వెల్లడిస్తామని సంస్థ స్పష్టం చేసింది.
పోటీలో పడి భద్రతను విస్మరిస్తే వినాశనమే!
ఏఐ రంగాన్ని మరింత వేగంగా ముందుకు తీసుకెళ్లాలనే వాణిజ్య పోటీ తీవ్రమవుతున్న తరుణంలో, భద్రతా ప్రమాణాలను విస్మరించడం అత్యంత ప్రమాదకరమని ఓపెన్ఏఐ హెచ్చరించింది. కేవలం ఒక కంపెనీ మాత్రమే భద్రతను పాటిస్తే సరిపోదని, పరిశ్రమలోని అన్ని దిగ్గజ సంస్థలు కలిసికట్టుగా ఒకే రకమైన భద్రతా నియమాలను రూపొందించుకోవాలని పిలుపునిచ్చింది. ఇతర దేశాలు లేదా పోటీ సంస్థల నుంచి ఒత్తిడి ఉందనే నెపంతో భద్రతా ప్రమాణాలను గాలికొదిలేస్తే, అది మానవాళికి తీవ్ర ముప్పుగా పరిణమిస్తుందని ఓపెన్ఏఐ సీఈఓ సామ్ ఆల్ట్మాన్ స్పష్టం చేశారు.
'సూపర్ ఇంటెలిజెన్స్' భయాలు.. అంతర్జాతీయ స్థాయిలో లొల్లి!
ఏఐ స్పీడ్ ను కంట్రోల్ చేయాలనే డిమాండ్ ఇప్పుడు ప్రపంచ వ్యాప్తంగా ఊపందుకుంది. 'ఆంత్రోపిక్' (Anthropic) రీసెర్చర్ జాకబ్ కాక్సన్ తన ఉద్యోగానికి రాజీనామా చేస్తూ.. మానవ మేధస్సును మించిపోయే 'సూపర్ ఇంటెలిజెంట్' వ్యవస్థల నిర్మాణం మానవాళి ఉనికికే ప్రమాదమని హెచ్చరించినప్పటి నుంచి ఈ వివాదం మరింత ముదిరింది. మోడళ్లు శక్తివంతంగా మారే కొద్దీ వాటంతట అవే నిర్ణయాలు తీసుకునే ప్రమాదం ఉందన్న ఆందోళనలు వ్యక్తమవుతున్నాయి. ఈ నేపథ్యంలో ఓపెన్ఏఐ తెచ్చిన కొత్త చొరవ, ఏఐ సాంకేతికతను సురక్షితమైన మార్గంలో నడిపించడానికి మొదటి అడుగుగా భావిస్తున్నారు.
Click it and Unblock the Notifications
Sign in with Google
