केहि समय पहिले, मेरो Pablinux साझेदार उनले हामीलाई भने बारेमा असह्य एलोन मस्क र अन्य व्यक्तित्वहरूले आर्टिफिसियल इन्टेलिजेन्सको अनुसन्धानलाई रोक्नको लागि लेखेको पत्र जबसम्म यसको सम्भावित प्रतिकूल प्रभावहरू रोक्नको लागि उपायहरू गर्न सकिँदैन। यसले मलाई कृत्रिम बुद्धिमत्ताको वास्तविक र काल्पनिक जोखिमहरूको बारेमा कुरा गर्ने बहाना दिन्छ।
असफल बिल गेट्स-शैली भविष्यवाणीहरूको साथ आफैलाई मूर्ख बनाउने जोखिममा, म मेरो विचारमा यसो भन्दै सुरु गर्छु। अहिलेको सबैभन्दा ठूलो जोखिम भनेको बबल फुट्नु हो यसले डट-कमलाई हल्का झटकामा छोड्ने छ।
अनुक्रमणिका
कृत्रिम बुद्धिमत्ताको वास्तविक र काल्पनिक जोखिम
म Pablinux सँग सहमत छु कि पत्रमा वैज्ञानिक तर्क भन्दा धेरै मध्ययुगीन अस्पष्टता छ। त्यो यसको सामग्रीको प्रयोगलाई विनियमित गर्नका लागि कानून स्थापना गरिनुपर्छ भन्ने विचार साझा गर्न जारी राख्दै। यद्यपि, हामी इन्कार गर्न सक्दैनौं कि सबै प्रविधिले मानिसहरूलाई भ्रमित र डराएको छ जबसम्म यो राम्रोसँग थाहा थिएन।
सिनेमेटोग्राफीको सुरुमा रेलको आगमनको प्रक्षेपणले मानिसहरूलाई कोठाबाट भाग्न बाध्य बनायो र, यद्यपि यसमा धेरै शहरी कथाहरू छन्, यसको रेडियो संस्करण। विश्वको युद्ध Orson Welles द्वारा यो वास्तविक हो भन्ने विश्वास गर्ने मानिसहरू माझ धेरै आतंक पैदा भयो।
वास्तवमा, यस प्रकारको सफ्टवेयर नियमन कुनै नयाँ कुरा होइन। धेरै देशहरूमा वित्तीय नियामक अधिकारीहरूले फोटोशप जस्ता कार्यक्रमहरूलाई बैंक नोट वा चेकको छविहरू सम्पादन गर्न निषेध गर्छन्।
1994 मा टम Clancy प्रकाशित सम्मानको ऋण । रक्षा मुद्दा मा एक विशेषज्ञ मानिन्छ, Clancy iसंकट भइरहेको छ भन्ने विश्वासमा स्टक कम्पनीहरूको विशेषज्ञ प्रणालीलाई हेरफेर गरेर संयुक्त राज्यको वित्तीय प्रणालीमा आक्रमणको कल्पना गरे। एक बिक्री लहर जारी छ जसले अन्ततः संकट उत्पन्न गर्यो।
यसलाई काल्पनिक रूपमा खारेज गर्नु अघि, याद गर्नुहोस् कि त्यही उपन्यासमा, ट्विन टावर्स भन्दा 7 वर्ष पहिले, क्ल्यान्सीले संयुक्त राज्यले व्यावसायिक हवाई जहाज प्रयोग गरेर आक्रमणहरू भोग्न सक्छ भनेर अनुमान गरेका थिए।
वास्तवमा विचार नयाँ होइन। 1983 को फिल्म युद्ध खेलहरू यसले बताउँछ कि कसरी एक किशोरले मिसाइल प्रक्षेपणको जिम्मामा रहेको कम्प्युटरलाई रूसीहरूले आक्रमण गरिरहेको छ भनेर सोचेर भ्रममा पारे।
कल्पना गरौं कि हामीले एउटा घुँडा आउँदै गरेको सुन्यौं। हाम्रो पहिलो निष्कर्ष यो हो कि यो घोडा हो र 9 मध्ये 10 पटक हामी सही हुनेछौं। तर, चिडियाखानाबाट भागेको जेब्रा हो भन्ने सम्भावना सधैं रहन्छ। डाक्टरहरू, अन्तरिक्ष यात्रीहरू र हवाइजहाजका पाइलटहरूले जेब्राहरूको बारेमा सोच्दै कडा प्रशिक्षण पाउँछन्, यदि कुनै विसंगति देखा पर्यो भने के गर्ने भनेर जान्दछन्। कृत्रिम बुद्धिमत्ता मोडेलहरू घोडाहरूलाई दिमागमा राखेर तालिम दिइन्छ।
ChatGPT द्वारा प्रयोग गरिएको जस्तो मोडेल यसको ज्ञान आधारमा अवस्थित जानकारीमा आधारित छ। त्यो जानकारी जति पटक दोहोर्याइन्छ, त्यति नै ठूलो विश्वसनीयता प्रदान गरिन्छ।
सबै उपलब्ध जानकारी बचत गर्न धेरै भण्डारण ठाउँ चाहिन्छ, यसले सान्दर्भिक कुराहरू मात्र बचत गर्छ र त्यसपछि सांख्यिकीय रूपमा सबैभन्दा सान्दर्भिक देखिने संरचना प्रयोग गरी अनुरोध गरेअनुसार पुन: निर्माण गर्छ।। तसर्थ, धेरै चोटि मैले सन्दर्भहरू उद्धृत गर्दछु जुन अवस्थित छैन किनभने सांख्यिकीय रूपमा यो सम्भव छ कि त्यहाँ त्यो शीर्षक भएको कागजात छ जसमा त्यो सामग्री समावेश छ।
भुक्ने नगर्ने जेब्रा र कुकुरहरूको बारेमा
तपाईले मेरो ध्यानाकर्षण गराउन चाहनुहुने अरु कुनै बिन्दु छ?
-रातमा कुकुरको अचम्मको घटना ।
-कुकुरले राती केही गरेन।
त्यो रोचक घटना थियो।
सर आर्थर कानन डोयल
आर्टिफिसियल इन्टेलिजेन्स प्रणालीहरूसँग हुने अर्को जोखिम तिनीहरूले नगर्ने कुरा हो। र यो पनि मनमा राख्न महत्त्वपूर्ण बिन्दु हो।
XNUMX को दशकमा, एक अष्ट्रेलियाली डाक्टरले अल्सरको सबैभन्दा सामान्य कारण ब्याक्टेरिया हो भनी अनुमान गरे। उहाँसँग राम्रो रिजुमे नभएकोले, तिनीहरू सही साबित नभएसम्म उहाँको अनुहारमा हाँसे। अन्य धेरै वैज्ञानिक आविष्कारहरू जस्तै (ग्रहहरूको परिक्रमा, तपाईंले जति धेरै ब्रेक लिनुहुन्छ, तपाईं उति उत्पादनशील हुनुहुन्छ) तिनीहरू पलको बुद्धिको विपरीत छन्।
तर, बुद्धिमत्ता मोडेलहरू पलको बुद्धिमा आधारित छन्। जुन ज्ञानमा सहमति हुन्छ। जसरी फ्रिजिङ टेक्नोलोजी, अटोमोबाइल र डेलिभरीले मोटोपनाको संख्या बढाएको छ, त्यसैगरी कृत्रिम प्रविधिका उपकरणहरूको उपलब्धताले हामीलाई अल्छी बौद्धिक बनाउन र नवप्रवर्तनलाई दबाउन सक्छ।
तपाईंले देख्न सक्नुहुने रूपमा, मेशिनहरूद्वारा दास बन्ने डरको बारेमा चिन्ता गर्न पर्याप्त चीजहरू छन्। र हामी अझै पनि स्रोत कोडमा पहुँच र प्रयोगकर्ताहरूको गोपनीयताको बारेमा कुरा गर्दैनौं।
टिप्पणी गर्न पहिलो हुनुहोस्