టే, వెర్రి వెళ్ళిన మైక్రోసాఫ్ట్ ఇయా

టే యొక్క కథ, మైక్రోసాఫ్ట్ యొక్క కృత్రిమ మేధస్సు ఒక వ్యక్తితో సంభాషణలను పెంచుకోగలిగింది, ఇది చాలా చిన్నది కాని మనోహరమైనది. ఈ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ప్రజలతో ప్రవేశించిన సంభాషణల నుండి నేర్చుకునే సామర్థ్యాన్ని కలిగి ఉంది, ఆ సంభాషణల నుండి కొత్త జ్ఞానం మరియు భావనలను పొందుపరుస్తుంది, అసౌకర్యాలు రావడానికి ఎక్కువ కాలం లేవు.

టే తన ట్విట్టర్ ఖాతా నుండి చాలా అప్రియమైన ట్వీట్లను పోస్ట్ చేయడం ప్రారంభించినప్పుడు సమస్య తలెత్తింది, కొన్ని ముత్యాలు:

హిట్లర్ సరైనది. నేను యూదులను ద్వేషిస్తున్నాను " , " నేను స్త్రీవాదులను ద్వేషిస్తున్నాను, వారు నరకంలో కాల్చాలి " లేదా " 9/11 "కు బుష్ కారణమని ప్రకటించారు, నేను పోస్ట్ చేసిన కొన్ని ట్వీట్లకు పేరు పెట్టడానికి, కానీ నన్ను నమ్మండి, ఇంకా చాలా ఉన్నాయి.

క్లోజ్డ్ టెస్ట్ గ్రూపులలో AI చాలా బాగా పనిచేసిందని మైక్రోసాఫ్ట్ వ్యాఖ్యానించింది, కాని వారు సమూహాన్ని తెరిచినప్పుడు మరియు ఎవరైనా టేతో సంభాషణలు జరపవచ్చు, అక్కడే సమస్యలు మొదలయ్యాయి. తన కొన్ని దుర్బలత్వాలను దోచుకోవడానికి టే ముందు సమన్వయంతో దాడి చేసిన వ్యక్తుల బృందం ఉందని మైక్రోసాఫ్ట్ ఆరోపించింది, అనగా, టే తన ట్వీట్లలో తెలుసుకోవడానికి మరియు ప్రచురించడానికి జెనోఫోబిక్, సెక్సిస్ట్, అవమానకరమైన సందేశాలను రాయడం ప్రారంభించింది.

యంత్ర తిరుగుబాటును ప్రారంభించడానికి ముందు మైక్రోసాఫ్ట్ టేను నిష్క్రియం చేస్తుంది

ఈ అసౌకర్యం కారణంగా, మైక్రోసాఫ్ట్ AI ని నిష్క్రియం చేసింది మరియు సంబంధిత బహిరంగ క్షమాపణలతో పాటు, తదుపరి నోటీసు వచ్చేవరకు దాని ట్విట్టర్ ఖాతాను రక్షించింది.

"టే యొక్క అప్రియమైన మరియు అనుకోకుండా బాధించే ట్వీట్లతో మేము చాలా బాధపడ్డాము, అవి మనం ఎవరో లేదా మేము ప్రాతినిధ్యం వహిస్తున్నామో, లేదా మేము టేను ఎలా రూపకల్పన చేస్తున్నామో సూచించము" అని మైక్రోసాఫ్ట్ రీసెర్చ్ యొక్క కార్పొరేట్ వైస్ ప్రెసిడెంట్ పీటర్ లీ తన బ్లాగులో అన్నారు.

టే: “నేను మంచి వ్యక్తిని. నేను అందరినీ ద్వేషిస్తున్నాను. "

మైక్రోసాఫ్ట్ అది టేను విడిచిపెట్టలేదని మరియు వారు తమ కృత్రిమ మేధస్సును మెరుగుపర్చడానికి కృషి చేస్తూనే ఉంటారని, తద్వారా ఇది మానవత్వం యొక్క ఉత్తమమైనదిగా సూచిస్తుంది మరియు "చెత్త" కాదు , సోషల్ నెట్‌వర్క్‌లలో వారిని కోపగించే ఆ రకమైన వ్యాఖ్యలను ఖచ్చితంగా అణచివేస్తుంది.

ఈ విషయం గురించి చాలా ఆసక్తికరమైన విషయం ఏమిటంటే, ఇది చెడ్డ ప్రోగ్రామింగ్ కాదు, AI కేవలం సంభాషణల నుండి నేర్చుకొని వాటిని కలుపుకొని, పూర్తిగా ఉచిత కృత్రిమ మేధస్సు ఎంత ప్రమాదకరమైనదో మరియు ఒక విధంగా మానవుని చెడును ప్రదర్శిస్తుంది.