تــرجـــمــة Abbas Mashally ® "All Rights Reserved" 2010 ©
لقد كتب منذ ثلاثة قرون العالم "الإنجليزي العظيم "اسحاق نيوتن
يبدو لي بأنني كنت مثل ولد يلعب فقط على شاطئ البحر
بينما المدى العظيم للحقيقة بسط كل المستور من قبلي
واليوم، مرة أخرى، نحن مثل أطفال تلعب على شاطئ البحر
لكن المدى العظيم للحقيقة لم يعد مستورا
فتحنا أسرار مسألة - الذرة
لقد حللنا جزيء الحياة وهو الحمض النووي
وأنشأنا نموذج الذكاء الاصطناعي وهو الكمبيوتر
الإكتشاف الأساسي لقوانين الطبيعة في القرن العشرون
سيتم فتح إمكانيات لم يسبق لها مثيل بالقرن الحادي والعشرون
ونحن نصنع التحول التاريخي
من عصر الإكتشاف العلمي إلى عصر التفوق العلمي
الذي سنتمكن فيه من معالجة وتشكيل الطبيعة تقريبا لتناسب رغباتنا
سأوضح لكم بالضبط كيف وبشكل جذري وسريع أن العلم يحول حياتنا
البروفيسور ميتشو كاكو عالم الفيزياء النظرية
أعتقد بأن هذا سوف يواجهنا مع التحديات والإختيارات العميقة
عميقة بحيث علينا أن نبدأ للتصدي لها اليوم
رؤى المستقبل
ثورة الذكاء الإصطناعي
في العقود المقبلة، سنرى كيف أصبحنا اسياد تبادل المعلومات
كيف سيسمح لنا العلم بالابداع والتعامل مع فهم المعلومات تقريبا عند الرغبة
هذا التمكن من تبادل المعلومات سوف يمكننا من تصميم عوالم جديدة
ولكن هذه ليست سوى الخطوة الأولى
من آلة اتقان تبادل المعلومات سوف ننتقل لنبتكر الآلات الذكية
"مرحبا بك دكتور "كاكو - "سعيد بأن أكون هنا يا "اسيمو -
وأخيرا، سنقوم بإعادة تصميم عقولنا
قيادة كل هذه هو دليل نمو القدرة الحاسوبية
هذا هو الجهاز القديم "اي بي ام 1401"
بالعودة الي الستينات كان تقنية حديثة جداً
.لقد كانت معجزة هندسية يملأ غرفة كاملة، ويزن أربعة أطنان
وقيمته تكلفته اليوم حوالي .مليون جنيه استرليني
الجهاز 1401 القديم يقوم بما يزيد .قليلا عن 4000 عملية حسابية بالثانية
هذا الهاتف المحمول اليوم
يكلف حوالي 50 جنيه استرليني
لديه رقاقة بحجم أظفرك
ويمكنه القيام بحوالي مليار عملية حسابية بالثانية الواحدة
ذلك 300,000 مرة أسرع من الجهاز 1401 القديم
قوة النمو الهائل للكمبيوتر سيعيد تشكيل عمق الحضارات الإنسانية
بحلول عام 2020، الشريحة بقوة معالجة اليوم ستكلف بنس واحد تقريباً
تلك كلفة ورقة النفاية التي نرميها ببساطة
وسيتعجب الأطفال كيف يمكننا ربما الحياة بعالم صامت؟
عالمنا هو بالفعل أكثر ذكاء منذ 10 سنوات
وحيث أن قوة الحاسبات تتضاعف كل 18 شهراً
هذا يدفعنا نحو مستقبل مختلف للغاية
أنا جالس بهذه السيارة لكنني لا أقودها
قدمي ليست على دواسة البنزين، لا أقودها على الإطلاق، فهي تقود نفسها
هذه السيارة تستخدم أنظمة تحديد المواقع بالليزر وأجهزة الاستشعار
لتجد طريقها وتتفادى العقبات، بالكامل ذاتيا
وهذا كله يتحقق بقوة المعالجة من ثمانية أجهزة كمبيوتر بالضبط
قريبا جدا، وليس بالضبط سياراتنا .لكن طرقنا أيضا ستكون ذكية
الرقائق الداخلية ستدير حركة المرور والذي بدا أحيانا كخيال مستقبلي
.سيصبح قريبا حقيقة واقعة
!مدينة الغد
السيارات، يضبط سيرها إلكترونيا
وطرق السفر آمنة بشكل ملحوظ، سريعة وفعالة
أعتقد أن الكلمات ذاتها في المستقبل "حادث مرور" و "إزدحام المرور"
سيختفي هذا الشيء .من اللغة الإنجليزية
بحلول عام 2020 سيكون تبادل المعلومات في كل مكان
ليس فقط بسيارة أو بالطرق ولكن عمليا بجميع الكائنات
العلماء يطلقون عليه الحوسبة في كل مكان
ما سيحدث بالمستقبل أمر حتمي جميل إذا نظرتم الى العقود الثلاثة الماضية
باول سافو تكنولوجيا الارصاد جامعة ستانفورد
عقد الثمانينات هو عصر المعالجات الدقيقة
يرمز إليه بأجهزة الكمبيوتر الشخصية وذلك عندما بنينا أجهزة الكمبيوتر لدينا
عقد التسعينيات للشبكات والإتصالات يرمز اليه بشبكة الإنترنت العالمية
كان عندما أوصلنا حاسباتنا سوية
بهذا العقد، توجد الحوسبة بكل مكان، كل شيء متصل
ومثبت بكل شيء. ستعرفون بأن سيطرة الحوسبة الكاملة قد حلت
عندما ندرك أن أجهزة الكمبيوتر أصبحت مخفية
لدينا بالفعل كمبيوتر بهواتفنا وأجهزة التلفزيون والمسجلات وساعات اليد وغسالات الصحون
ولكن بالمستقبل سيتحرك الكمبيوتر أكثر عمقا بنسيج حياتنا
،في غضون بضع سنوات الشرائح الأساسية ستكون رخيصة جدا
- يمكن إدماجها بكل منتج نشتريه وهي غير مرئية، فالشبكة الذكية
مخفية في جدراننا وأثاثنا حتى في ملابسنا
الكمبيوترات يمكن ارتداؤها بشكل مستمر لمراقبة صحتنا. انها مثل الطبيب الشخصي
.يوميا 24 ساعة
في حالة الطوارئ، مثل النوبة القلبية لباسك سيرسل كامل تاريخك الطبي
سيحدد مكانك ويدعو سيارة إسعاف كل ذلك بينما أنت فاقد الوعي
سوف نعتمد على أجهزة الكمبيوتر والشبكات لدرجة لم نكن نتخيلها ابدا
"سنكون جميعا أقل من "بلانش دوبوا "في مسرحية "عربة اسمها الرغبة
حيث تقول: "إعتمدت دائما ."على شفقة الغرباء
في هذه الحالة، الغرباء سيكونوا آلات نشطة بعيدا بأسم مستعار تماما
ولن تعرف حتى بأنهم متواجدون
أترى حبة الأسبرين هذه؟ تبدو عادية جدا
لكن، صدق أو لا تصدق، بالمستقبل، يمكن أن تكون بقوة جهاز كمبيوتر وآلة تصوير فيديو
ويمكنها أن تصور جميع أجهزتك الداخلية
إنه نوع مثل إبتلاع مختبر طبي بالكامل
لذا، بالمستقبل الكمبيوتر يمكن أن يراقب صحتك من الخارج والداخل
لكن التأثير الأكبر ربما سيأتي عند توفر المعلومات بكل مكان للمزج مع تقنية أخرى
."الإنترنت"
في المستقبل، الإنترنت سيكون بكل مكان، بما في ذلك نظاراتك الشمسية
إنه سيكون متوقّع من النظارات إلى شبكية عينيك
أو ستستعمل عدسة نظارتك كشاشة سينمائية
وبعبارة أخرى يمكن أن تكون نظارتك مركز ترفيه بيت المستقبل
وسوف توفر لك نظارتك بتدفق مستمر للمعلومات
انها ستميز وجوه الناس وتقوم بتحميل ملامحهم الشخصية
قبل 500 سنة، التوزيع الشامل للكتب أظهر إنفجارا فكريا
مع ظهور عصر النهضة
لكن اليوم، بالإنترنت وإستخدام الحاسبات بكل مكان انها قاعدة سوية لثورة أعظم
أولا، مستواها العالمي. انها ليست للنخب فقط، انها للجميع
ثانياً، انها تفاعلية الأفكار تصبح محللة
هذه هي الديمقراطية بالعمل
هذه الثورة ليست سوى المرحلة الأولى في إجادتنا لأجهزة تبادل المعلومات
،وانها تغيير ليس فقط لأفكارنا ولكن لعلاقاتنا مع بعضنا البعض
حتى أنا، هنا ارقص في عالم افتراضي
شركائي الراقصون حقيقيون
لكن موقعهم يبعد مئات الأميال من هنا، لذا أرقص معهم بصورة إفتراضية ثلاثية الأبعاد
منقولة لي بالوقت الفعلي
بنفس الوقت، صورتي منقولة إليهم
هذه التقنية الجديدة تسمى الاندماج عن بعد
التقنيات الثلاثية الأبعاد مثل الاندماج عن بعد لها إمكانيات بلا حدود بالفعل
ويمكن أن تكون الموروث المتطور للهاتف وربما حتى إختصارا للرحلات الجوية
والآن، التكنولوجيا حاليا لا تزال بمراحلها المبكرة
ولكن تخيل في المستقبل وجود مؤتمر لرجال اعمال بالكامل في عالم افتراضي
تخيل الإحتفال الافتراضي بعيد الميلاد مع أصدقاء وأقارب بغرفة جلوس إفتراضية
.حتى لو كانوا على بعد آلاف الأميال
تخيل برنامج تلفزيون إفتراضي كما لو كنت جالسا مع الحضور
أو أنك تجري هناك على أرض الملعب مع مباراة كرة قدم مثيرة
وما يجعل هذا السيناريو موثوق به هو النمو غير المسبوق الذي نشهده اليوم
.في الاتصالات عبر الإنترنت
فيسبوك"، "ماي سبيس" والرسائل" الفورية التي تتوجه بشكل مباشر
ومع الواقع الافتراضي .نخطو خطوة الى الأمام
يمكننا خلق عوالم إفتراضية وشخصيات إفتراضية
تجسد الأفكار الغير محدود من قيود العالم الحقيقي
مثل ألعاب الحياة الثانية على الإنترنت تسمح لنا بخلق العوالم
حيث كل شيء وأي شيء محتمل. هذه عوالم لا نهاية لها من التجديد الذاتي
حيث يمكن أن نغير شكلنا
جنسنا، وحتى نوعنا
أما بالنسبة إلى تجسيد منظري
قررت أن أكون صغيراً بالعمر
هذا ليس مجرد ترفيه لهروب الناس من واقع يعيشونه بهذه العوالم
وبعضهم يقعوا في الحب
اخترت قطعة أرض قرب بناية لطيفة المظهر وتبين أنها له
بنى "كريس" شيء غير تقليدي للغاية شديد التعرج خيالي للغاية. الذي جذبني
.حيث أن ذلك أيضا تم بإعداد جميل لمنطقة لطيفة بجداول تمر عبرها
،صممتها في مخ للتحكم بالبيت ويصبغ النوافذ، ويقفل الباب
وصممت حوض للسباحة يظهر من تحت الارض عندما تريد ذلك
اعتادت "الين" القيام بزيارة خاطفة "متظاهرة بالقاء التحية على "براين
أول مرة بحياتنا خرجنا سويا لم نكن متواعدين
كان على جزيرة رومانسية معزولة بلعبة الحياة الثانية. نعم تدلينا ودردشنا
وتصرفنا بسخافة. بعد ستة أشهر من لقائهما الأول بالعالم الافتراضي
"ألين وارتل" و"كريس ادواردز" تزوجا. في الحقيقة
لقد غيرت لعبة الحياة الثانية حياتي في الكثير من الطرق
أنا أعيش الآن في انجلترا بدلا من الولايات المتحدة، والتقيت بزوجي
ولدي مهنة جديدة
ألين تكسب المال الحقيقي من بيع منتجات افتراضية بالعالم الافتراضي
عملي الرئيسي هو الاكسسوارات
أصنع المجوهرات والاحذية وحقائب اليد، وأشياء للأشكال المجسدة
كيف تظهر هذا هو الجزء المهم حقا لوجودك هناك
لذلك أنا أحصل على رزقي
في الواقع ، أنا أقوم بعمل أكثر من أي ما فعلت بحياتي السابقة
هذا مذهل بالنسبة لي، ان أصل إلى هذا الحد. إنه لأمر رائع حقا
أنا مندهش كيف أصبحت بسرعة مشارك بهذا العالم
بمجرد أربع سنوات، تزايد هواة لعبة الحياة الثانية من بضعة آلاف لأكثر من 5 ملايين
وبحلول عام 2020، سيكون هناك الكون ثلاثي الأبعاد بالكامل في الإنترنت
مع البلدان الإفتراضية والحكومات والمدارس والجامعات والممتلكات والأرصدة
والعائلات الإفتراضية والأصدقاء
الواقع الافتراضي سيصبح أكثر فأكثر مثل الواقع الحقيقي ولكن له مميزات
تمكنني من المشاركة بواقع البيئة الافتراضي مع شخص آخر على بعد مئات الأميال بعيدا
راي كورزويل باحث ومخترع
ويمكننا أن نكون أشخاص آخرين ونغير الأجواء بسرعة
لديها الكثير من المزايا أكثر من الواقع الحقيقي
أعتقد في 10 سنوات أشياء مثل لعبة الحياة الثانية ستكون سائدة كالبريد الإلكتروني الآن
وستصبح العوالم افتراضية على نحو مماثل للناس ليلتقوا، ويتعاونوا معا
أستطيع أن أرى بالمستقبل أنها ستكون قادرة أكثر بكثير مما هو عليه اليوم
وسأحبها
عندما كنت طفلا كنا نقرأ عن شخصية ."وهمية تسمّى "والتر ميتي
بالنهار، كان نموذج للفرد الممل العادي من الطبقة المتوسطة
لكنه بالليل كانت أوهامه العنيفة جدا التي تعيش خارج أحلام البرية
بشكل ما، كلّنا "والتر ميتي" لكن بالحياة الثانية والواقع الافتراضي
يمكننا أن نعيش تخيلاتنا
وبالمستقبل، فان الخطوط بين تخيلاتنا الإفتراضية والواقع المادي
ستشوه بشكل متزايد
فكرة واحدة هي أن واجهات الواقع الافتراضي قد تكون متكاملة بجسم الإنسان
جارون لانيير من رواد الانترنت
يمكننا أن نأخذ عرض مدمج بطبقات داخل العين أو في الجهاز البصري في مكان ما
.أو في الواقع إلى الدماغ نفسه
ولكن هذه الاحتمالات تطرح بعض الأسئلة المزعجة نسبياً
ماذا يحدث لو افترضنا العديد من الهويّات المختلفة التي سنبدأ بفقد شعورنا بالهوية؟
ماذا يحدث إذا قمنا بتفضيل الشبكات الإجتماعية الإفتراضية على شبكاتنا الإجتماعية الحقيقية؟
والأسرة - هل ستعاني الأسرة بقضاء مزيد من الوقت مع عائلتنا الإفتراضية
بمعزل عن عائلتنا الحقيقية؟
،إذا كان لديك أكثر من تجسيد لأكثر من شخصية واحدة
يمكن أن يؤثر كثيرا على كيف ترى نفسك
البروفيسور سوزان جرينفيلد متخصصة أعصاب جامعة أكسفورد
البشر دائما لديهم شخصيات متعددة
أنا مختلفة كابنة أو كأخت، أو كصديقة
كلنا نتكيف بسياق زمن ومكان تواجدنا مع مجموعة الناس التي نحن منهم
الناس المختلفة تظهر أشياء مختلفة فيك ولكن قد يكون بهذه تجسيد لعوالم تكبر عشرة أضعاف
ماذا يمكنني ان افعل لك؟
يستغرق أكثر من 30 مليون شخص بالعالم بالمتوسط 20 ساعة بالأسبوع على الإنترنت
البعض، مثل "ساره روجرز"، تفضل حقا الإتصال الإفتراضي للصداقة بالعالم الطبيعي
بالحياة الحقيقية، أنا خجولة تماما لكن إذا سألت أيّ من أصدقائي على الإنترنت
،إذا أنا كنت خجولة سيقولون بالتأكيد لا
،وأنا قادرة على التحدث بحرية
فقط لأن لدي الوقت للتفكير في ما أقوله
يمنحني ذلك التحرر لأنني أشعر بنفسي أكثر عندما لا أكون تحت الضغوط الاجتماعية
في الحياة الحقيقية، "سارة روجرز" طالبة تدرس التاريخ
وبلعبة على الانترنت متعددة اللاعبين عالم المعارك" فهي الواعظ الذي لايقهر"
الألعاب عبر الإنترنت تنافسني على وقتي
بعض الأيام يمكن أن يكون نوعا ما ست ساعات، ثماني ساعات
ومع ذلك، فإنها دائما أكثر إثارة للذهاب وذبح بعض الوحوش
.أفضل من القراءة عن التاريخ
يمكنك أن تكون قاتل التنين أو الأميرة أو ما شابه ذلك
ولكن ليس لديك لغة الجسد، وليس لديك هرمونات جاذبية، وأفكار داخلية
سنقوم في المستقبل بالمحادثة الفعلية الحية
لم أستطيع عمل ذلك! أنا أفضل كثيرا هذا التواصل الاجتماعي
وربما، بالنهاية، قليلا مثلما تعودنا لعدم وجود محادثات حقيقية
هناك بعض الأدلة على ذلك
لا ترى الناس وجها لوجه
لذا يمكنك أن تخبرهم أي شئ ولا تشعر بالخجل
بطريقة ما، بالفعل تقترب من الناس أكثر مما تفعله حقا بالحياة وتنظم روابط أقوى
وكما أن ظهور اللغة سيمنحنا القدرة على تصور العالم
بمجموعة واسعة من المراجع والدقة
والقدرة على إنشاء ومشاركة بمحاكاة المحتوى على الانترنت
سيساعد الناس على تصور تعدد سمات الواقع
وذلك بالضبط ما لا نهتم به اليوم حقا
الواقع الافتراضي ووجود الكمبيوتر بكل مكان ليست سوى المرحلة الأولى
من إتقاننا للذكاء الاصطناعي
،وكما أننا نمضي قدما إلى القرن 21 ستحدث ثورة الذكاء الاصطناعي بحياتنا
لدرجة أكبر من الأصل
وسيؤدي ذلك إلى قفزة بالتطور الذي سيتحدى الوضع البشري بشدة
،في النصف الأخير من القرن 21 سندخل عالما جديدا كامل الإتقان
وسوف ننتقل من كوننا صناع للذكاء الآلي لأن نكون صناع للآلات الذكية
الآلات التي بدأت تنافس الذكاء البشري أو ربما حتى تتجاوزه
وهذا قد يعني ان حلم المستقبل البعيد المنال قد يتحقق بالنهاية
الآلات التي ستحقق لنا كل نزواتنا
بالفعل لأجزاء كبيرة من حياتنا ومجتمعنا واقتصادنا
تدار من قبل الأجهزة بواسطة الذكاء الاصطناعي المتخصص
وهناك بالفعل مئات الأمثلة على ما أسميه ذكاء اصطناعي محدود
راي كورزويل باحث ومخترع
إنها أساسا، البرامج التي يتم تشغيلها بقدر مستويات البشرية
،تفعل ما كان يفعله البشر والقيام به عموما، على نحو أفضل لمهمة معينة
،كالتحليق بالطائرات، وتوجيه الأسلحة لكسب مليارات الدولارات بالقرارات المالية
يمكن أن أعطي مئات الأمثلة على أن هذا كان يتطلب البشر
الآن الآلات تفعل ذلك أسرع، وبدقّة أكثر، والتحديد يقلل الفجوة تدريجيا
ونظرا لنمو القدرة الحاسوبية المتزايدة
أصبح الكثير والمزيد من الأجهزة مصممة لأداء المهام بأنفسها
مثل وحدات الرجال الآليين "والتي تسمى "الروبوتات الفائقة
يمكن أن يصبح لكل وحدة، إذا لزم الأمر، دماغ للتحكم بالآخرين
الدكتور وى مين شين مختبر الروبوتات متعددة الأشكال جامعة جنوب كاليفورنيا
ويمكنهم أن يكتشفوا أين هم في الجسم
أساسا، يستخدمون أشعتهم تحت الحمراء ولديهم ستة طرق للإتصال مع جيرانهم
يمكنهم القول، "هل لدى جار على جهتي اليمنى؟ أو جهتي اليسرى؟
،إذا اكتشف بأنه عند الذراع فإنه سيقوم بالتنفيذ مثل ذراع
،إذا اكتشف بأنه عند الساق فإنه سيقوم بالتنفيذ مثل ساق
هذه ليست سوى نماذج
"الجيل القادم من "الروبوتات الفائقة ستكون قادرة على تقييم بيئتها بمفردها
ويقرروا لأنفسهم أي شكل سيكون أفضل لهم
ستغير شكلها لتصبح أفعى لكي تمر من خلال مكان ضيق للغاية
أو تغيير الشكل ليكون لديها سيقان لتلتقط أشياء وتهبط ببعض الأشياء
بنهاية المطاف سوف يؤدون مختلف المهام في بيئات مختلفة
إنه هدفنا الكبير لهذا المشروع
حتى الآن، قدرة الروبوت الذاتية بالتفكير والاداء كانت محدودةً بمانعين رئيسيين
الأول هو نمط التمييز
يمكن للروبوتات، أن يرو أفضل منا لكنهم لا يفهمون ما يرونة
انهم لا يستطيعون التعرف على الأشياء جيدا، والثاني أكثر أهمية
الروبوتات يمكنها أن تسمع، أفضل منا بكثير لكنها ليست بالضرورة تفهم ما تسمعه
حتى اللحظة هذا قد يكون على وشك التغيير
"هنا في معهد "ماساتشوستس للتكنولوجيا قام الباحثون مؤخرا بعمل تقدم خارق
لقد اخترعوا جهاز لديه مهارات في التمييز
بدمج علم الكمبيوتر مع علم الأعصاب
لقد تم تحفيز عملنا بشكل رئيسي بمحاولة لفهم علم أعصاب الدماغ
وكيف يعمل الدماغ
إذا فهمت الجزء الخاص بأعمال تبادل المعلومات
البروفيسور توماسو بوجيو قسم المخ والعلوم المعرفية معهد ماساتشوستس للتكنولوجيا
يمكنك إعادة إنشائها في الآلات
صمم فريق "إم آي تي" كمبيوتر ليحاكي طريقة عمليات الدماغ للمعلومات البصرية
ثم أظهر الجهاز مئات الصور لعينة من الأجسام المشتركة مثل المباني والسيارات
والحيوانات والنباتات
بعد ذلك، أظهر الجهاز صور لمشاهد الشارع والتي تحتوي على تلك الأجسام
والسؤال المطروح هو، هل من الممكن أن نتعرف عليهم؟
وكانت النتائج مذهلة. فلقد نجح الكمبيوتر بالعثور على 78% من الأجسام
أستطيع أن أقول لقد قام بعمل جيد حداً
أفضل بكثير مما أعتقدت
الذكاء هو القدرة على تعلم كيفية ملاحظة الأجسام بالحالات الصعبة
انني متحمس بهذا الإكتشاف
ولكن كيف يمكن للكمبيوتر مقارنة قدرات الإنسان؟
برنامج الكمبيوتر هذا، وأنا سنتنافس سويا في مسابقة
سيكون تحدى الانسان ضد الآلة
كلا منا سوف تومض صورته بسرعة حتى يمكنك رؤيتها بالكاد
ويجب أن نقرر ما إذا كان هناك حيوان بتلك الصورة أم لا، بالتعرف الفوري على الاجسام
معظم أجهزة الكمبيوتر تفعل هذا بشكل فظيع
ستومض صورة على الشاشة لمجرد الخمس من الثانية
ثم يجب أن أقرر سواء كان أو لم يكن هناك حيوان، الكمبيوتر يفعل نفس الشيء
وبعد ذلك تظهر الصورة جنبا إلى جنب مع إجاباتنا
دعونا نرى من الذي وصل الى القمة
لدي انطباع بأن أداء الكمبيوتر أفضل مني
وفي الواقع، إنه كذلك
هو مبدع بالأحرى. هذا الحاسوب يمكنه أن يقلد طريقة تعامل دماغ الإنسان للمعلومات
وانظر - لقد هزمني
إن البحث الاصطناعي لتبادل المعلومات وصل لنقطة حاسمة
في العقود القادمة ستقترب الآلات بشكل تدريجي لدرجة الذكاء البشري
ما هو نوع العلاقة التي سنقوم بتطويرها مع الآلات الذكية؟
لمعرفة ذلك، لقد سافرت إلى بلاد عائلتي - اليابان
نشأ والداي في الشنتو والتقاليد البوذية
وحسب تعاليم الشنتو، هناك آلهة وأرواح التي تسكن بكل الأشياء
حتى الأشياء غير المتحركة كالآلات والرجال الآليين
وفي البوذية يتم التركيز على الإنسجام بدون صراع، ولا هيمنة
ولكن المعيشة بتوافق مع العالم
لذا الشعب الياباني يعاملوا الرجال الآليين كأصدقاء ومقربين موثوق بهم
"مرحبا، دكتور "كاكو "سعيد بلقائك،يا "أسيمو
.سأصطحبك الى الطاولة - .يسعدني ذلك -
وليس بغريب أن "أسيمو" الإنسان الآلي الأكثر تقدماً قد طور هنا
في اليابان
.شكراً على وقتك لزيارتنا - .لا توجد مشكلة -
سوف أحضر لك شيئا لتشربه
وبينما يمكن أن يتعرّف "أسيمو" على العقبات والوجوه المسجلة بذاكرته
إن معظم ما يقوله ويفعله مبرمج مسبقا ارجوك تفضل بالجلوس. موافق سأفعل
لو سمحت يا سيدي
ورغم ذلك "أسيمو" لديه مهارة مهمة جدا فهو يمكنه أن يمشي ويتحرك مثل البشر
أنا بدأت بالمشي
نحن نعتبر أن قدرتنا على المشي أمراً بديهياً ولا نفكر حتى بذلك
في الواقع انها مهمة معقدة للغاية
لقد استغرق مهندسوا شركة هوندا 20 عاما من البحث
لإنجاز حركات "أسيمو" مثل الإنسان
أسيمو" هو أحد أكثر الرجال" الآليين تقدما في العالم
عندما يتعلق الأمر بالقدرة على المشي، والجري وقابلية الحركة
الامور التي إعتبرت مستحيلة سابقا، يمكن لـ"أسيمو" أن يفعلها
لذا فإن "أسيمو" أعجوبة هندسية، قبل خمس أو عشر سنوات، أن الإنسان آلي الذي يمكنه المشي بهذا الشكل
كان بعيد المنال
لأن "أسيمو" لديه نظرات وحركات مشابة جدا بالإنسان
أرى فيه أكثر من مجرد آلة
جئت بالطلب. شكرا لك أحضرت لك عصير البرتقال
أعلم أن "أسيمو" هو مجرد آلة
شكرا جزيلا لك، لكنني أجد نفسي متعلقاً به، كما لو أنه شخص حقيقي
ونميل إلى الأشياء الغير مألوفة بالنسبة إلينا
على سبيل المثال، إشتريت "مؤخرا أنا وزوجتي "روومبا
إحدى المكانس الكهربائية الآلية التي تنظف الأرض آليا
إن موقف زوجتي تجاه الجهاز بدأ يتغيير بمرور الوقت
بدأت فجأة، تطلق عليه اسم ودود "وتقول: "لا تحمله اكثر من طاقته
أترك هذا المسكين ليستريح، أعطه إستراحة، كما لو أنه شخص حقيقي
أو حيوان أليفاً أو حتى طفلاً رضيعاً
كلما كانت الآلة تنبض بالحياة أكثر نرتبط عاطفياً بها أكثر
وسوف نكون أكثر ميلاً للتفاعل معها
ولكن ماذا سيحدث عندما يتزايد تفاعل الآلات معنا؟
يزور هؤلاء الأطفال اكبر متحف للإنسان الآلي في العالم بمدينة "ناغويا" اليابانية
بعض الروبوتات المعروضة هنا مصممة خصيصا لتكوين علاقة عاطفية مع البشر
هذا هو "آيبو" من شركة سوني وبعبارة أخرى، فهو حيوان آلي اليف
ويمكن لـ"آيبو سوني" أداء حوالي ستة العواطف المختلفة
مثل الجوع والضيق والألم
وعندما تداعب الكلب على ظهره فإنه يظهر فرحته
وكذلك بمداعبة آذانه أو ذقنه
وعندما يستنفذ الكهرباء فانه يظهر انه جائع
يحب الأطفال الألعاب هنا "بشكل واضح مثل "آيبو
وردّ فعلهم يعطي فكرة عن علاقتنا المستقبلية مع الإنسان الآلي
عرضت على بعض أطفال أستراليين إنسان آلي يسمى "كوريو" والذي يعني الفضول
إنهه تحفة مدهشة
وفضلا عن أنه يصعد ويهبط على الدرج والجلوس، والنهوض بنفسه، وهلم جرا
لكنّه يمكن أن يعالج المحادثات ويردّ كما لو أنّ له العواطف.
البروفيسور سوزان جرينفيلد جامعة أكسفورد
عندما سألت الأطفال بعمر ثمانية سنوات هل ترغبون بأن يكون لكم أفضل صديق
أو يكون "كوريو" كأفضل صديق لكم؟ !"فورا تخلصوا من أصدقائهم لصالح "كوريو
البعض من أصدقائك المقربين قد لا يكونوا بشراً على الإطلاق
ربما تصبح مرتبط عاطفيا بحيوان آلي أو بشكل لذكاء مصطنع على الإنترنت
باول سافو تكنولوجيا الارصاد جامعة ستانفورد
وستعرف أنه ليس ذكي حقا، ولكن كعادتك ستشركه في أسرارك الخاصة
ولأنه يستمع اليك جيداً وأفضل بكثير من صديقك فانك ستعتمد عليه كلياً
ولكن ماذا لو لم يكن هؤلاء الرجال الآليين يتظاهرون تماما كما لو أن لديهم مشاعر؟
ماذا لو كانت حقا تشعر بالألم والسرور والحزن والبهجة؟
لطيف أم سيئ؟
سيئ. لأنك قصدت أصابتي بالألم
أنا لن أؤذيكِ
سيئ أم لطيف؟
لطيف
عادة، كانت المشاعر تشهد كما النقيض من الذكاء
لكن العلماء بدأوا يدركون بأن المشاعر بالغة الأهمية لزيادة الذكاء
لقد تردد العلماء في العمل على المشاعر
لأن العلماء يفكرون بأنهم ككائنات عقلانية غير عاطفية
البروفيسور روزليند بيكارد مجموعة الحوسبة المؤثرة معهد ماساتشوستس للتكنولوجيا
فإن ما يتجاهله العلماء غالبا، هو أننا نتجه إلى ما نختار التركيز عليه
بآليات العاطفة
لقد توصلنا خلال العقد الماضي وبدأنا نتحدث: عن هذه الامور
فعلينا أن نفهم كيف أن للعاطفة تأثيرات على الذكاء لذلك يجوز تقليدها في الآلات
ألا تهتم؟ - أهتم؟ لا، لماذا يجب أن أهتم؟ -
الذكاء العاطفي هو قمة الذكاء البشري
ألا تهتم بشخص ما وهو يتألم؟ - نحن لا نشعر بالألم -
أن تكون غيورا، ولديك مشاعر المحبة وصاحب نكتة، إنها تصرفات معقدة للغاية
راي كورزويل باحث ومخترع
لسلوكنا الأكثر ذكاء
عفوا لأنني أتنفس فهذا ما لا أفعله أبدا على أي حال
يا إلهي، أنا في غاية الاحباط
لقد وجد علماء الأعصاب شيء ضروري جدا في الدماغ البشري
،إن المرضى المصابون بتلف الدماغ فالجزء الأمامي للدماغ جانب التفكير
لا يمكنه الاتصال بشكل جيد مع الجزء الذي يتحكم بالمشاعر
هؤلاء الناس عاجزون بسبب التردد، لأنهم لا يميزون بين ما هو مهم وما هو غير مهم
بالمستقبل، نريد الروبوتات لمعرفة الفرق بين الصواب والخطأ، والخير والشر
المهم وغير المهم فإن المفتاح لذلك هو المشاعر
لذا، حتما، لكي يكون الإنسان الآلي مفيد لنا
لابد أن تكون تلك الكائنات مزودة بالمشاعر
لقد قالوا: دعونا نصنع رجال آليين بشخصيات بشرية حقيقية
لذا حاولوا عمل ذلك معي
هذه الكائنات الذكية العاطفية ستتعلم وتتطور
حتى تصبح أكثر فأكثر استقلالية عن البشر
لم أخيب ظنك، أليس كذلك؟
الحكومة هنا في طوكيو تدرس أول مجموعة قوانين في العالم
لتنظيم وإعادة تعريف دور الإنسان الآلي في المجتمع
ذلك سيكون أكثر اهمية لأن الإنسان الآلي بدأ يتصنع السمات البشرية أكثر فأكثر
لا يمكنك التنبؤ بما سيحدث
لأن هذه الآلات قد تتطور بوقت قصير وتتعلم وتبتكر أفكاراً جديدة وتختبرها
البروفيسور مارفين مينسكي مؤسس معهد ماساتشوستس للتكنولوجيا مختبر الذكاء الاصطناعي
وبهذه التشكيلة التي تجعلك باليوم التالي غير قادر على فهم ما تقوم به
وربما تكون مشغولة جدا للقيام بمحاولة لتوضيحه إليك
بينما تتطور الآلات ويزداد ذكائها وقدرتها على إستكشاف عالمنا
فإنها قد تتفوق على سيطرة البشر عليها
أعتقد أن هناك فرصة جيدة جدا فسوف تكون آلات أذكى منا
سوف نخسر هذا السباق العقلاني
- هناك إحتمالان هنا
إحتمال متفائل بأنّ تكون هذه الآلات الفائقة جدا، لطيفة وتعاملنا مثل الحيوانات الأليفة
والإحتمال المتشائم هو أن تكون شريرة وتعاملنا مثلما تلتهم الغذاء
أتمنى أن يحدث الإحتمال الأول
انهم قادمون نحونا
ما... ما هذا؟ - لا أعرف -
لقد تطور الإنسان الآلي وتحول ضد البشر وأصبح مصدر للخيال العلمي
فعندما تعرض هوليوود لك البشر في صراع مع نظام الذكاء الآلي
إليزير يودكوويسكي مختبر الذكاء الاصطناعي
تكون الجوانب متوازنة تقريبا
لأن هوليود يمكنها أن تعرض لك أفلاماً
حيث تتيح للأشخاص الجيدين فرصة القتال
"فإن قصة فيلم "جالوت" ضد "دايفيد وليس "جالوت" ضد ذبابة الفاكهة
الشاشة لم تعرض أبداً !شيء من هذا القبيل
ماذا يمكنه أن يفعل بدونك؟ ليس هناك حد لما يمكنه أن يفعل يمكنه أن يدمر الأرض
يعتقد بعض الناس انه ميؤوس منه
انها مسألة وقت قبل أن تصبح الآلات أذكى منا وتضعنا بحدائق الحيوان وراء القضبان
لا أعتقد أن ذلك واضح مطلقا سنكون قادرين على إختيار
مستوى التقدم من ذكاء الإنسان الآلي لدينا
لماذا لا تبتعدي؟ لا تتحدثي معي هكذا. أنا من صنعكِ
لدينا الخيار في كيفية خلق الذكاء الاصطناعي
يجب أن تكون متأكد جدا من احد الامرين، عقل الآلة لن تطور نفسها أبدا
أو ترغب بعمل أي شئ قد يدمر الحياة الذكية
فلنعتبر هذا السلاح كما لو أنه ملغوم
"لن تتمكن من هزيمتنا، يا دكتور "فليمنج من المحتمل أن أصيب بالضرر؟ نعم
ما نقوم به مع الناس هو إخضاعهم للعديد من التجارب والاختبارات والتحديات
البروفيسور روزليند بيكارد مجموعة الحوسبة المؤثرة معهد ماساتشوستس للتكنولوجيا
قبل أن يرتقوا الى المستوى التالي لنرى إذا كانوا جديرين بالثقة وقادرون على العمل
بنفس الطريقة، بينما تصبح المكائن أكثر ،تعقيداً وأقل إنتظاماً، ويصعب توقع سلوكها
سيكون علينا إخضاعها لعدة اختبارات وتجارب لإثبات أنها جديرة بالثقة
.في الأوضاع الأكثر تعقيدا
أعتقد بأن الأمر بالنهاية عائد لنا لنوع الآلات الذكية التي سنصنعها
سنقرر نوع العلاقة التي سنطورها معهم
وسيكون لدينا اختيار آخر أكثر أهمية
سيكون بإمكاننا إختيار مستوى ذكائنا الخاص
بينما تصبح الآلات أكثر ذكاء
سنكون قادرين على تعزيز قدرتنا المعرفية والفكرية - وهنا المفارقة
بينما تصبح الآلات مثل البشر قد يصبح البشر مثل الآلات
وهذا يمكن أن يمثل أعلى مراحل التحكم بالذكاء
قد يبدو دمج عقولنا مع الآلات كخيال علمي ولكنه يحدث بالفعل
"بعيادة "كليفلاند" في "أوهايو تزرع أقطاب كهربائية للأعصاب
في أدمغة مرضى الاكتئاب المزمن تدعى تقنية التحفيز العميق للمخ
أو "دي بي إس" وتستخدم عادة لمرضى الشلل الرعاش
تحفيز الدماغ العميق أو منظم القلب الدماغي" المرتبط"
الدكتور علي رضائي مركز علاج العمليات العصبية للمخ عيادة كليفلاند
بزراعة سلك كهربائي صغير جدا
في أجزاء مختلفة من الدماغ يرسل إشارات كهربائية صغيرة لتنظيم نشاط الدماغ الشاذ
ويجدد نشاط الدماغ لمساعدة هؤلاء المرضى لمستوى الحياة
ديان" من أوائل مرضى الاكتئاب" الذين يتم علاجهم بزرع الدماغ
عانيت من الاكتئاب لمدة 20 عاما
فلقد إقتصر عالمي على المعيشة في غرفة جلوسي وغرفة نومي
كنت أشعر وكأنني أحمل ثقل طن على أكتافي
وحتى التفكير في القيام بأي عمل فإنه يحتاج للطاقة
كانت مرهقة جدا بالنسبة لي لدرجة لم أستطع القيام بها... لذا
كان مجرد عالما صغيرا ومظلم جدا
وكانت "ديان" يائسة لإيجاد علاج لحالتها
جربت العديد من الأدوية
مثل مثبطات أحادية الأمينات، ومثبط السيروتونين، ومضادات الإضطراب الذهني
ومضادات الإكتئاب والعلاج ....بالشحنات الكهربائية
وجميع هذه الأشياء التي جعلتني أتقهقر أكثر فأكثر
انظر الأنف؟
يستخدم فريق "رضائي" أحدث تقنية للرنين المغناطيسي في المسح الضوئي
لتحديد مناطق محددة من الدماغ لتلقي العلاج
"انظر هنا مسح لدماغ "ديان
هذه الأنظمة الإلكترونية تسمح لك الانتقال إلى أجزاء مختلفة من دماغها
للعثور على المنطقة المستهدفة
يستخدم الإنسان الآلي المجهري لتوجيه عملية الزراعة بالدماغ
هذا الإنسان الآلي الدقيق يسمح لنا أن نبدأ من أعلى الرأس
إلى نقطة بعمق 8 إلى 10 سنتيمترات في دماغها
وتستغرق هذه العملية الجراحية خمس ساعات
بعد ثلاث ساعات، وضعت الأقطاب الكهربائية في أمكانها
أيقظوني من التخدير حتى أستعيد عافيتي
وقاموا بتشغيل الجهاز وفجأة سألوني "كيف تشعرين الآن؟ "
كيف تشعرين؟
بدأت ابتسم أشعر بالسعادة
وفجأة أصبحت إبتسامتي عريضة تماما، وضحكت قليلا
،وقلت: نعم، أحب هذا هذا على ما يرام
تعلمون، إنه كما كنت أشعر عندما أريد الذهاب إلى العمل
....و
تعلمون، وقضاء عطلات جيدة بنهاية الأسبوع والقيام بعمل أشياء
لكني للتو لم أشعر بذلك لفترة طويلة، لقد كانت عدة السنوات
حسنا، منذ عام 1988... حقا
بالنسبة لي كان شعور اللحظة
إنه شعور جيد جدا
لدرجة أنك لا تريده أن يتوقّف
لذا اسمحي لي بعرض الأشعة عليكِ هنا يمكنكِ ان ترى هذه الأسلاك
تلك الأسلاك مزروعة بأجزاء المزاج في الدماغ لتحسين المزاج والطاقة والقلق
وهذا الممر من قمة الرأس هنا أسفل الرقبة إلى داخل الصدر
وإلى بطارية منظم القلب
بعد شفاء "ديان"، وعملية الضبط بدأ منظم القلب بالتحكم في دماغها
سنبدأ على الجانب اليسار. حسنا
ذلك كجولة بقطار الملاهي حقاً
يشغلونه بطريقة واحدة و تقريبا كنت أبكي على الفور
لا أشعر أنني بحالة جيدة
يبدو أن الأمور مظلمة وثقيلة
وإنهم بعد ذلك، كما تعلمون يغلقون الجهاز وتبديله ربما لمقياس آخر
وبعد ذلك كنت أشعر بالتحسن
وكذلك فعلت هذا لأربع أو خمس ساعات لمدة ثلاثة أيام متتالية
أعتقد أنني أشعر بشيء من الراحة وأكثر إشراقا إلى حد ما
هل تشعرين بتحسن؟
انه بالتأكيد أفضل؟ نعم مما لا شك فيه، هاه؟ نعم
.بالتأكيد أشعر بالراحة والتألق .بالتأكيد؟ نعم
.وجهي يبدو مرتاح جدا .أليس كذلك؟ نعم
وباليوم الرابع، وجدنا طريقة تحولي التي كنت للتو إنسانة جديدة كليا
انه مثل الفرق بين الليل والنهار
.في حياتي
بإمكان زراعة الدماغ علاج مجموعة واسعة من الحالات بالمستقبل القريب
استخدام جهاز منظم للدماغ سيكون أكثر وأكثر شيوعا
لمرضى الصرع الحاد
ومع مرضى متلازمة توريت
وأحدى الجبهات التالية سيستخدم مع مرضى الإصابات الدماغية الحادة المكتسبة
مثل الجلطة، ومع المرضى المصابين بالتوحد
ومرض الزهايمر، وبطول الطريق. انه سيعالج العديد من الحالات العصبية النفسية
لكن الزراعة يمكنها أن تفعل أكثر في علاج الدماغ ببساطة
وقريبا الرقائق يمكنها أن تبدأ بزيادته وتحسين أدائه
يتوقع بعض العلماء أن بالمستقبل سيكون لدينا رقائق الذاكرة
وسنكون قادرين على حفظها وتخزين الذكريات وتحسين ذاكرتنا بشكل واسع
ربما تكون يوما ما لدينا رقاقة مرئية التي ستساعد ضحايا الجلطات والحوادث
ويتوقع بعض العلماء بأنه يمكننا حتى الحصول على رقاقة للتفكير
التي يمكنها تحسين قدراتنا الفكرية والمعرفية
عندما نصل إلى أواخر 2020 الجميع تقريبا سوف يكون لديه
راي كورزويل باحث ومخترع
كمية من الذكاء غير البيولوجي داخل عقولهم وسيحدث هذا بشكل تدريجي جدا
وكما أنه تدريجيا يصبح أكثر تطورا
وعندما نصل لأواخر 2040 ستصبح الآلة غير البيولوجية جزء من ذكائنا
لدرجة أقوى من الجزء البيولوجي، ثم سيصبح الذكاء البيولوجي بديهياً
وبالنهاية هذا هو حقا حيث توجد الإثارة
ونحن، بوصفنا أحد المخلوقات
بدأنا بوضع تقنية تشغيل المعلومات داخل أجسامنا
البروفيسور رودني بروكس معهد ماساتشوستس للتكنولوجيا مختبر الذكاء الاصطناعي وعلوم الكمبيوتر
وتقنياتنا ستصبح أكثر حيوية
بالسنوات الـ 50 المقبلة سنرى إناس آليين بمكونات بيولوجية أكثر
وبشر بمكونات إلكترونية أكثر
لذا أين ستكون الناس وأين سيكون الإنسان الآلي بـ50 أو 100 عام مقبل؟
انها مسألة مثيرة للاهتمام
ونحن على أعتاب عصر جديد
والذي فيه قد نكون، قادرين على تغيير عقولنا بكبسة زر واحدة
والدليل على هذا المبدأ موجود مسبقا
وقام فريق في جامعة جنوب كاليفورنيا "على إستبدال الـ "هيبوكامبوس
وهو الجزء الفعال للذاكرة في الدماغ
الأشخاص الذين تضرر الـ "هيبوكامبوس" لديهم بسبب حادث قد يتذكروا ما حدث قبل الحادث
لكنهم يعجزون عن تكوين ذكريات جديدة بإتجاه التحديث
العلماء يتمنّون أن يصحّحوا هذا بإدخال رقاقات الحاسوب
،ترتبط مباشرة بأعصاب الدماغ لقد بدأت صنع ذلك قبل 30 عاما
لقد إشتركت في التطوير المبكر للمعالجات الدقيقة
الدكتور جون جراناكي جامعة جنوب كاليفورنيا
انا فيزيائي من خلال التدريب
ولم أتوقع حقا أن أصبح عالم أعصاب
أو أخذهم وأحولهم إلى نظام بيولوجي
بالبداية، سجل الفريق الردود الكهربائية للـ "هيبوكامبوس" عند الفئران
ثمّ صمموا رقاقة كمبيوتر التي تحاكي هذه الاستجابات
ولقد تمت تجربة زرع الرقاقة بأدمغة الفئران
يمكنك أن تحسن استجابات ،%70 الفئران بنحو 50 أو
لذا نرى تحسن في أداء الفئران
الخطوة التالية ستكون لتطوير الرقاقة للبشر
"بإستبدال الـ "هيبوكامبوس المتضرر في الإنسان
يهدف العلماء بذلك معالجة مرضى الزهايمر والصرع
انه عمل مثير للغاية وشعور أكثر بالرضا
إذا كنت تفكر بنهاية عملك فأنت قد تؤثر على حياة الناس
حاليا، تستخدم زراعة الدماغ فقط لعلاج حالات طبية معينة
الفكرة ذاتها من وجود أقطاب ،كهربائية داخل أدمغتنا
حسنا، هذا مثير للرعب لبعض الناس حتى لو كان ذلك لتحسين ذاكرتنا وذكائنا
ولكن يمكن أن تعتاد على ذلك بالمستقبل
وهذه التقنية يمكن أن تصبح آمنة تماما ومعتمدة وغير واضحة
.ولكن هذا يثير سؤالاً أهم كم عدد أعضاء جسمنا بالضبط
التي يمكننا استبدالها بأخرى اصطناعية قبل أن نبدأ بفقدان حسنا الإنساني؟
سوف نستبدل أنفسنا
بالكائنات التي تشبهنا من جهة ما وليس مع الآخرين
البروفيسور مارفين مينسكي شارك في تأسيس معهد ماساتشوستس للتكنولوجيا مختبر الذكاء الاصطناعي
ستكون قادرة على التعلم أسرع بألف مرة وتعيش أكثر منا ألف مرة
وهذه التغييرات البسيطة ستؤدي إلى تغييرات ضخمة يصعب معها تخيل ما سيحدث
إحدى أكبر المشاكل بالقرن الحادي والعشرون
هو كيف يتعامل الواحد مع عالم موجود بساحة غير متكافئة
البروفيسور سوزان جرينفيلد متخصصة أعصاب جامعة أكسفورد
ويحصل على بعض القدرة المعززة بينما لا يحصل الآخرين على الماء
من شأنه أن يؤدي بنا إلى عالم حيث أصبحت الامبريالية بالقرن 19 شاحبة
في دلالة على التطور البيولجي للتفريق بين إناس لديهم تكنولوجيا ومن لا يملكونها
بكل الثورات يوجد رابحون وخاسرون وهذه الثورة ليست إستثناء
ولكن أود أن أقول أكبر الخاسرين هم الناس الذين يقولون
انهم لا يريدون التدخل وانهم الذين سيكتشفوا ذلك
وأن ابتعادهم قليلا سيكون له عواقب غير سارة
هذه هي الثورة حيث انها ليست فكرة جيدة أن نقف كمتفرجين
في الماضي، كنا مجرد مراقبين للذكاء
أثناء الثورة الزراعية استطعنا القيام بتدجين الحيوانات واستخدام ذكائهم
لضمان تجهيز غذائنا أثناء الثورة الصناعية
تمكنا من بناء الآلات والأدوات الأوتوماتيكيه لكن هذا هو الموضوع، الآن ولأول مرة
في ثورة المعلومات يمكننا أن نبدأ لنصبح سادة للذكاء
وستتيح لنا تلك السيادة حرية وفرص لا مثيل لها
فلديها القدرة على أن تغني حياتنا أكثر من أي شيء قد رأيناه من قبل
ولكنها تجبرنا أيضا لمواجهة القضايا الاجتماعية الرئيسية
والخيارات التي علينا أن نبدأ في مناقشتها اليوم
تــرجـــمــة Abbas Mashally ® "All Rights Reserved" 2010 ©