مواد
پیش کردہ: AltaML
سوال:
کچھ کمپنیاں جدید AI نظاموں میں "ہیومین فیڈ بیک کنٹرول" شامل کرنے پر غور کیوں کررہی ہیں؟
A:
کچھ کمپنیاں جدید ٹیکنالوجی کے ساتھ کام کر رہی ہیں جو ان نظاموں کے لئے انسانی کنٹرول قائم کرنے کے لئے کام کر رہی ہیں ، مشین سیکھنے اور گہری سیکھنے کے اوزار کو کچھ براہ راست انسانی نگاہ سے دیکھتے ہیں۔ یہ کمپنیاں چھوٹی کھلاڑی نہیں ہیں ، یا تو - گوگل کی ڈیپ مائنڈ اور ایلون مسک کی اوپن ائی دو بڑی کمپنیاں ہیں جو مصنوعی ذہانت کی پیشرفت کے بارے میں ہاتھ جوڑ رہی ہیں۔ اس بات کو ذہن میں رکھتے ہوئے ، نتائج مختلف ہیں - مثال کے طور پر ، ڈیپ مائنڈ عوام کو کلیدی اعداد و شمار فراہم کرنے کے لئے اپنی ناپسندیدہ باتوں کے لئے تنازعہ کا شکار رہا ہے ، جبکہ اوپن اے آئی اس سے کہیں زیادہ ہے ، کھلا مصنوعی ذہانت پر قابو پانے کے بارے میں اپنے کام کے بارے میں۔
یہاں تک کہ بل گیٹس جیسے قابل ذکر شخص نے بھی اس معاملے پر وزن اٹھایا ہے ، گیٹس نے کہا کہ وہ بہت سارے لوگوں میں سے ایک ہیں جو مصنوعی ذہانت کے خروج کے بارے میں فکرمند ہیں جو کچھ طریقوں سے انسانی قابو سے بالاتر ہوسکتے ہیں۔ کستوری نے اپنی طرف سے ، "بدمعاش AI" کے امکان کے بارے میں کچھ خطرناک زبان بھی پیش کی ہے۔
شاید یہی سب سے اہم وجہ ہے کہ کمپنیاں انسانی کنٹرول کو اے آئی پر لاگو کرنے کے لئے کام کر رہی ہیں۔ اس خیال کے تحت کہ کچھ تکنیکی وابستگی کے نتیجے میں ایک انتہائی طاقت ور سینٹینٹ ٹکنالوجی آجائے گی جس سے انسان صرف کنٹرول نہیں کرسکتے ہیں۔ جب سے انسانی عزائم کا آغاز ہوا ، ہم نے اس بات کو یقینی بنانے کے ل tools ٹولز رکھے ہیں کہ ہم اپنے اختیارات پر قابو پاسکتے ہیں - چاہے وہ لگام اور قابلیت والے گھوڑے ہوں ، موصل تاروں میں بجلی ہو ، یا کسی دوسرے طرح کے کنٹرول میکانزم ، کنٹرول ایک فطری انسانی فعل ہے اور اس وجہ سے یہ پوری دنیا میں یہ احساس دلاتا ہے کہ جب مصنوعی ذہانت حقیقی فعالیت کے قریب آتی ہے ، تو انسان اس طاقت کو برقرار رکھنے کے ل their اپنے براہ راست کنٹرول کا استعمال کرتے ہیں۔
تاہم ، سپر ذہین روبوٹ کا خوف ہی وجہ نہیں ہے کہ کمپنیاں مشین لرننگ اور اے آئی پراجیکٹس پر انسانی کنٹرول کا اطلاق کرتی ہیں۔ ایک اور بڑی وجہ مشین کا تعصب ہے - یہی خیال ہے کہ مصنوعی ذہانت کے نظام اکثر اس میں محدود رہتے ہیں کہ وہ سوال میں موجود ڈیٹا کا اندازہ کیسے کرتے ہیں - تاکہ وہ سسٹم میں موجود کسی تعصب کو وسعت دیں۔ مشینی سیکھنے کے ساتھ کام کرنے والے زیادہ تر پیشہ ور افراد آئی ٹی سسٹم کے بارے میں خوفناک کہانیاں سن سکتے ہیں جو انسانی صارف گروپوں کے ساتھ یکساں سلوک نہیں کرسکتے تھے - چاہے وہ صنف ہو یا نسلی تفاوت ، یا ہمارے انسانی معاشروں کی باریکیوں کو واقعتا سمجھنے میں نظام کی کوئی اور ناکامی اور ہم لوگوں کے ساتھ کس طرح بات چیت کرتے ہیں۔
ایک لحاظ سے ، ہم سسٹم پر انسانی کنٹرول ڈال سکتے ہیں کیونکہ ہمیں ڈر ہے کہ وہ بہت طاقت ور ہوسکتے ہیں - یا باری باری ، کیونکہ ہم ڈرتے ہیں کہ شاید وہ کافی طاقتور نہ ہوں۔ زیادہ کنٹرول سے متعلق مشین سیکھنے کے ڈیٹا سیٹ کو نشانہ بنانے میں انسانی کنٹرول مدد کرتا ہے۔ وہ ان نظریات کو تقویت دینے میں مدد کرتے ہیں کہ کمپیوٹر صرف خود ہی نہیں سیکھ سکتا ، یا تو اس لئے کہ ماڈل کافی نفیس نہیں ہے ، کیوں کہ اے آئی بہت زیادہ ترقی یافتہ نہیں ہے ، یا اس وجہ سے کہ کچھ چیزیں صرف انسانی ادراک کے صوبے میں پڑی ہیں۔ مصنوعی ذہانت کچھ چیزوں کے ل great بہت عمدہ ہے - مثال کے طور پر ، ایک انعام اور اسکور پر مبنی نظام نے ایک مصنوعی ذہانت کی اجازت دی کہ وہ ایک انتہائی پیچیدہ بورڈ گیم "گو" میں ایک انسانی کھلاڑی کو مات دے سکتا ہے - لیکن دوسری چیزوں کے لئے ، یہ مراعات پر مبنی نظام ہے مکمل طور پر ناکافی۔
مختصرا. ، مصنوعی ذہانت کے منصوبے کس طرح کام کرتے ہیں اس میں انسانی صارفین کو براہ راست شامل رکھنے کی متعدد مجبوری وجوہات ہیں۔ یہاں تک کہ بہترین مصنوعی ذہانت کی ٹکنالوجی خود بھی بہت سی سوچ بچار کر سکتی ہے - لیکن بغیر کسی حیاتیاتی انسانی دماغ کے جو جذبات اور معاشرتی حدود جیسی چیزوں پر عملدرآمد کرسکتی ہے ، وہ صرف انسان کی شکل میں بڑی تصویر نہیں دیکھ سکتے ہیں۔
ایک ہنر مند مشین سیکھنے کی کمپنی کاروباری اور مضامین کے ماہرین اور مشین سیکھنے والے ڈویلپرز کے مابین بڑے کاروباری مسائل حل کرنے کی مہارت کے ساتھ اس توازن کو ختم کرنے میں مدد مل سکتی ہے۔
