एन्थ्रोपिक सीईओ डारियो अमोडी कुछ आइब्रो उठाया सोमवार को यह सुझाव देने के बाद कि किसी दिन उन्नत एआई मॉडल को “बटन” को धक्का देने की क्षमता प्रदान की जा सकती है ताकि वे उन कार्यों को छोड़ सकें जो उन्हें अप्रिय लग सकते हैं। अमोडी ने उत्तेजक टिप्पणी की एक साक्षात्कार के दौरान काउंसिल ऑन फॉरेन रिलेशंस में, यह स्वीकार करते हुए कि यह विचार “पागल लगता है।”
“तो यह है – यह उन विषयों में से एक है जो मुझे पूरी तरह से पागल बनाने वाला है,” अमोडी ने साक्षात्कार के दौरान कहा। “मुझे लगता है कि हमें कम से कम इस सवाल पर विचार करना चाहिए, अगर हम इन प्रणालियों का निर्माण कर रहे हैं और वे सभी प्रकार की चीजें जैसे मनुष्यों के साथ -साथ मनुष्यों की तरह करते हैं, और ऐसा लगता है कि एक ही संज्ञानात्मक क्षमताएं हैं, अगर यह एक बतख की तरह है और यह एक बतख की तरह चलता है, तो शायद यह एक बतख है।”
Amodei की टिप्पणियां AI कल्याणकारी शोधकर्ता काइल फिश के एंथ्रोपिक के देर से 2014 के अंत में डेटा वैज्ञानिक कार्मेम डोमिंग से एक दर्शकों के सवाल के जवाब में आईं, “देखने के लिए, आप जानते हैं कि भविष्य में एआई मॉडल की कमी, और क्या वे भविष्य में नैतिक विचार और सुरक्षा के लायक हो सकते हैं।” मछली वर्तमान में अत्यधिक विवादास्पद विषय की जांच करती है कि क्या एआई मॉडल में भावना हो सकती है या अन्यथा नैतिक विचार की योग्यता हो सकती है।
“तो, कुछ हम तैनात शुरू करने के बारे में सोच रहे हैं, आप जानते हैं, जब हम अपने मॉडल को उनके तैनाती के वातावरण में तैनात करते हैं, तो बस मॉडल को एक बटन देते हैं जो कहता है, ‘मैं इस काम को छोड़ देता हूं,’ कि मॉडल दबा सकता है, है ना?” Amodei ने कहा। “यह सिर्फ कुछ प्रकार का बहुत बुनियादी है, आप जानते हैं, वरीयता ढांचा, जहां आप कहते हैं कि अगर, मॉडल को परिकल्पना करने के लिए अनुभव था और यह नौकरी से काफी नफरत करता है, जिससे यह बटन दबाने की क्षमता देता है, ‘मैंने यह काम छोड़ दिया।” यदि आप इस बटन को उन चीजों के लिए बहुत कुछ दबाते हैं जो वास्तव में अप्रिय हैं, तो आप जानते हैं, शायद आपको चाहिए – इसका मतलब यह नहीं है कि आप आश्वस्त हैं – लेकिन शायद आपको इस पर कुछ ध्यान देना चाहिए। “