ओपनएआय एआय शस्त्रे आणि पूर्वाग्रहांच्या जोखमींविरूद्ध सज्जता वाढवते

तयारी टीम

MIT AI प्राध्यापक अलेक्झांडर मॅड्री यांच्या नेतृत्वाखाली, OpenAI ने “तयारी” नावाची एक समर्पित टीम स्थापन केली आहे. AI संशोधक, संगणक शास्त्रज्ञ, राष्ट्रीय सुरक्षा तज्ञ आणि धोरण व्यावसायिक यांचा समावेश असलेली ही टीम OpenAI च्या तंत्रज्ञानाचे सतत निरीक्षण आणि चाचणी करेल. कंपनीची कोणतीही एआय प्रणाली संभाव्य धोकादायक वर्तन दर्शवत असल्यास ती ओळखण्यात आणि सावध करण्यात महत्त्वाची भूमिका बजावते. पूर्वतयारी कार्यसंघ OpenAI च्या विद्यमान सुरक्षा प्रणाली संघासोबत कार्य करते, जे AI मध्ये पक्षपाती अल्गोरिदम एम्बेड करणे यासारख्या समस्या कमी करण्यावर लक्ष केंद्रित करते आणि सुपरअलाइनमेंट टीम, जे काल्पनिक परिस्थितीत AI ला मानवतेला हानी पोहोचवण्यापासून प्रतिबंधित करण्याचा तपास करते जिथे AI मानवी बुद्धिमत्तेला मागे टाकते.

अस्तित्वविषयक धोके वादविवाद

या वर्षाच्या सुरुवातीला, ओपनएआय, गुगल आणि मायक्रोसॉफ्टच्या नेत्यांसह AI उद्योगातील प्रमुख व्यक्तींनी, AI शी संबंधित अस्तित्वातील जोखमींवर भर दिला होता, त्यांची तुलना साथीच्या रोगांशी किंवा आण्विक शस्त्रांशी केली होती. तथापि, काही संशोधकांचा असा युक्तिवाद आहे की काल्पनिक आपत्तीजनक परिस्थितींवरील अशा एकाग्रतेमुळे एआय तंत्रज्ञानाच्या सध्याच्या हानिकारक परिणामांपासून लक्ष विचलित होते. वाढत्या संख्येने AI व्यवसायातील नेते तंत्रज्ञानाच्या विकासासह पुढे जाण्यासाठी समर्थन करतात, असे प्रतिपादन करतात की जोखीम अतिरंजित आहेत आणि तंत्रज्ञानाचा समाजाला लक्षणीय फायदा होऊ शकतो तसेच नफा वाढवू शकतो.

एक संतुलित दृष्टीकोन

ओपनएआयचे सीईओ, सॅम ऑल्टमन, एआयमध्ये अंतर्निहित दीर्घकालीन धोके मान्य करतात परंतु सध्याच्या आव्हानांना तोंड देण्याच्या महत्त्वावर जोर देतात. ऑल्टमॅन अशा नियमांना विरोध करतो जे लहान कंपन्यांवर विषमतेने भार टाकतात आणि वेगाने विकसित होत असलेल्या AI लँडस्केपमध्ये स्पर्धा करण्याच्या त्यांच्या क्षमतेस अडथळा आणतात.

तज्ञांच्या सहकार्याने जोखीम कमी करणे

अलेक्झांडर मॅड्रि, एक प्रतिष्ठित AI संशोधक आणि MIT च्या सेंटर फॉर डिप्लॉयेबल मशीन लर्निंगचे संचालक, यावर्षी OpenAI मध्ये सामील झाले. नेतृत्वात अलीकडील बदल असूनही, मॅड्रिने AI जोखमींचा तपास करण्यासाठी कंपनीच्या वचनबद्धतेवर विश्वास व्यक्त केला. ओपनएआय AI जोखमींवरील सर्वसमावेशक अभ्यास सुलभ करण्यासाठी राष्ट्रीय आण्विक सुरक्षा प्रशासनासारख्या संस्थांशी सक्रियपणे चर्चा करत आहे. शिवाय, ओपनएआय बाह्य “पात्र, स्वतंत्र तृतीय पक्षांना” त्याच्या तंत्रज्ञानाचे मूल्यांकन करण्यासाठी आणि ऑनलाइन उपलब्ध मानक संशोधनाच्या पलीकडे कठोर चाचणी घेण्यास परवानगी देण्याचे वचन देते. AI विकासाला वेग वाढवणारा किंवा कमी करणारा म्हणून ध्रुवीकरण करणार्‍या दृष्टिकोनांना संबोधित करताना, मॅड्री अशा वादविवादांच्या अतिसरलीकरणावर भर देतात, AI प्रगतीकडे अधिक सूक्ष्म दृष्टिकोनाची वकिली करतात.