عرض النطاق الترددي لصيغة قناة الاتصال. عرض النطاق الترددي لأنظمة نقل المعلومات. قناة اتصال منفصلة مع ضوضاء

إلخ ، كائنات تتميز بمجموعة محدودة من خصائص وميزات معينة. يتم حل مثل هذه المهام في كثير من الأحيان ، على سبيل المثال ، عند عبور أو قيادة الشارع عند إشارات المرور. يتيح لك التعرف على لون إشارة المرور المضاءة ومعرفة قواعد الطريق اتخاذ القرار الصحيح بشأن عبور الشارع أم لا.

تنشأ الحاجة إلى مثل هذا الاعتراف في مجموعة متنوعة من المجالات - من الشؤون العسكرية والأنظمة الأمنية إلى رقمنة الإشارات التناظرية.

اكتسبت مشكلة التعرف على الصور أهمية بارزة في ظروف الحمل الزائد للمعلومات ، عندما لا يستطيع الشخص التعامل مع فهم خطي متسلسل للرسائل الواردة إليه ، ونتيجة لذلك يتحول دماغه إلى نمط التزامن في الإدراك والتفكير ، التي يعتبر هذا الاعتراف سمة مميزة لها.

لذلك ، ليس من قبيل المصادفة أن تكون مشكلة التعرف على الصور في مجال البحث متعدد التخصصات ، بما في ذلك ما يتعلق بالعمل على إنشاء الذكاء الاصطناعي ، وإنشاء أنظمة تقنية. التعرف على الأنماطيجذب المزيد والمزيد من الاهتمام.

موسوعي يوتيوب

1 / 4

مقدمة في التعرف على الأنماط

R.V. شمين. المحاضرة رقم 6 Hopfield and Hamming Network في مشاكل التعرف على الأنماط

[DDSH-2016]: الشبكات العصبية والرؤية الحاسوبية الحديثة

المحاضرة 9. التجانس الأسي. التعرف على الأنماط: طريقة الجار الأقرب

ترجمات

الاتجاهات في التعرف على الأنماط

هناك اتجاهان رئيسيان:

• دراسة قدرات التعرف التي تمتلكها الكائنات الحية وشرحها ونمذجتها ؛
• تطوير نظرية وأساليب بناء الأجهزة المصممة لحل المشكلات الفردية للأغراض التطبيقية.

بيان رسمي للمشكلة

التعرف على الأنماط هو تخصيص البيانات الأولية لفئة معينة من خلال إبراز الميزات الأساسية التي تميز هذه البيانات من الكتلة الإجمالية للبيانات غير الأساسية.

عند تحديد مشاكل التعرف ، يحاولون استخدام لغة رياضية ، في محاولة - على عكس نظرية الشبكات العصبية الاصطناعية ، حيث الأساس للحصول على نتيجة من خلال التجربة - لاستبدال التجربة بالمنطق المنطقي والبراهين الرياضية.

بيان كلاسيكي لمشكلة التعرف على الأنماط: إعطاء مجموعة من الكائنات. يجب أن يتم تصنيفهم. يتم تمثيل المجموعة بمجموعات فرعية تسمى الفئات. معطى: معلومات حول الفئات ، ووصف للمجموعة بأكملها ، ووصف للمعلومات حول كائن ينتمي إلى فئة معينة غير معروف. من الضروري ، وفقًا للمعلومات المتاحة حول الفئات ووصف الكائن ، تحديد الفئة التي ينتمي إليها هذا الكائن.

غالبًا ما يتم اعتبار الصور أحادية اللون في مشكلات التعرف على الأنماط ، مما يجعل من الممكن اعتبار الصورة كدالة على مستوى. إذا أخذنا في الاعتبار نقطة محددة على مستوى T (displaystyle T)، حيث تعبر الوظيفة في كل نقطة من الصورة عن خصائصها - السطوع والشفافية والكثافة البصرية ، فإن هذه الوظيفة هي سجل رسمي للصورة.

مجموعة كل الوظائف الممكنة و (س ، ص) (displaystyle f (x، y))على السطح T (displaystyle T)- يوجد نموذج لمجموعة كل الصور X (displaystyle X). تقديم المفهوم التشابهبين الصور ، يمكنك تعيين مهمة التعرف. يعتمد الشكل المحدد لمثل هذا الإعداد بشدة على المراحل اللاحقة في الاعتراف وفقًا لهذا النهج أو ذاك.

بعض طرق التعرف على الصور الرسومية

للتعرف البصري على الصور ، يمكنك تطبيق طريقة التكرار على مظهر كائن في زوايا مختلفة ، ومقاييس ، وإزاحات ، وما إلى ذلك. بالنسبة للأحرف ، تحتاج إلى تكرار الخط وخصائص الخط وما إلى ذلك.

الطريقة الثانية هي العثور على محيط الكائن وفحص خصائصه (الاتصال ، وجود الزوايا ، إلخ)

نهج آخر هو استخدام الشبكات العصبية الاصطناعية. تتطلب هذه الطريقة إما عددًا كبيرًا من الأمثلة لمهمة التعرف (مع الإجابات الصحيحة) ، أو بنية شبكة عصبية خاصة تأخذ في الاعتبار تفاصيل هذه المهمة.

Perceptron كطريقة للتعرف على الأنماط

قدم F. Rosenblatt مفهوم نموذج الدماغ ، الذي تتمثل مهمته في إظهار كيف يمكن أن تظهر الظواهر النفسية في بعض الأنظمة الفيزيائية ، والتي تُعرف بنيتها وخواصها الوظيفية ، ووصف أبسط التجارب على التمييز. ترتبط هذه التجارب تمامًا بأساليب التعرف على الأنماط ، ولكنها تختلف من حيث أن خوارزمية الحل ليست حتمية.

أبسط تجربة ، على أساسها يمكن الحصول على معلومات ذات دلالة نفسية حول نظام معين ، تتلخص في حقيقة أن النموذج يتم تقديمه بمحفزين مختلفين ومطلوب للاستجابة لهما بطرق مختلفة. قد يكون الغرض من مثل هذه التجربة هو دراسة إمكانية تمييزهم التلقائي من قبل النظام في غياب تدخل من المجرب ، أو على العكس من ذلك ، دراسة التمييز القسري ، حيث يسعى المجرب إلى تعليم النظام لتنفيذ التصنيف المطلوب.

في تجربة التعلم ، عادة ما يتم تقديم المستشعرات مع سلسلة معينة من الصور ، والتي تشمل ممثلين عن كل فئة من الفئات المراد تمييزها. وفقًا لبعض قواعد تعديل الذاكرة ، يتم تعزيز الاختيار الصحيح للتفاعل. ثم يتم تقديم حافز التحكم إلى المدرك ويتم تحديد احتمال الحصول على الاستجابة الصحيحة لمحفزات هذه الفئة. اعتمادًا على ما إذا كان حافز التحكم المحدد يطابق أو لا يتطابق مع إحدى الصور التي تم استخدامها في تسلسل التدريب ، يتم الحصول على نتائج مختلفة:

1. إذا لم يتطابق حافز التحكم مع أي من محفزات التعلم ، فإن التجربة لا ترتبط فقط بـ تمييز محض، ولكنها تتضمن أيضًا عناصر التعميمات.
2. إذا كان منبه التحكم يثير مجموعة معينة من العناصر الحسية التي تختلف تمامًا عن تلك العناصر التي تم تنشيطها تحت تأثير المنبهات المقدمة سابقًا من نفس الفئة ، فإن التجربة عبارة عن تحقيق. التعميم الخالص.

لا تملك المدركات القدرة على التعميم الخالص ، لكنها تعمل بشكل مرضٍ تمامًا في تجارب التمييز ، خاصةً إذا كان محفز التحكم يتطابق بشكل وثيق مع أحد الأنماط التي اكتسب المدرك بعض الخبرة عنها بالفعل.

أمثلة على مشاكل التعرف على الأنماط

• التعرف على الباركود
• التعرف على لوحة الترخيص
• التعرف على الصور
• التعرف على المناطق المحلية من قشرة الأرض التي توجد بها الرواسب

واجهت الأنظمة الحية ، بما في ذلك البشر ، باستمرار مهمة التعرف على الأنماط منذ نشأتها. على وجه الخصوص ، تتم معالجة المعلومات الواردة من أعضاء الحس بواسطة الدماغ ، والذي بدوره يقوم بفرز المعلومات ، ويضمن اتخاذ القرار ، وبعد ذلك ، باستخدام النبضات الكهروكيميائية ، ينقل الإشارة الضرورية بشكل أكبر ، على سبيل المثال ، إلى أعضاء الحركة ، والتي تنفيذ الإجراءات اللازمة. ثم هناك تغيير في البيئة ، وتحدث الظواهر المذكورة أعلاه مرة أخرى. وإذا نظرت ، فكل مرحلة مصحوبة بتقدير.

مع تطور تكنولوجيا الكمبيوتر ، أصبح من الممكن حل عدد من المشاكل التي تنشأ في عملية الحياة ، لتسهيل وتسريع وتحسين جودة النتيجة. على سبيل المثال ، تشغيل أنظمة دعم الحياة المختلفة ، والتفاعل بين الإنسان والحاسوب ، وظهور أنظمة روبوتية ، وما إلى ذلك ، ومع ذلك ، نلاحظ أنه من غير الممكن حاليًا تقديم نتيجة مرضية في بعض المهام (التعرف على الأشياء المتشابهة سريعة الحركة ، نص مكتوب بخط اليد).

الغرض من العمل: دراسة تاريخ أنظمة التعرف على الأنماط.

الإشارة إلى التغييرات النوعية التي حدثت في مجال التعرف على الأنماط ، النظرية والفنية ، مع توضيح الأسباب ؛

مناقشة الأساليب والمبادئ المستخدمة في الحوسبة ؛

أعط أمثلة على التوقعات المتوقعة في المستقبل القريب.

1. ما هو التعرف على الأنماط؟

اتبع البحث الأول باستخدام تكنولوجيا الكمبيوتر بشكل أساسي المخطط الكلاسيكي للنمذجة الرياضية - النموذج الرياضي والخوارزمية والحساب. كانت هذه مهام نمذجة العمليات التي تحدث أثناء انفجارات القنابل الذرية ، وحساب المسارات الباليستية ، والتطبيقات الاقتصادية وغيرها. ومع ذلك ، بالإضافة إلى الأفكار الكلاسيكية لهذه السلسلة ، كانت هناك أيضًا طرق تستند إلى طبيعة مختلفة تمامًا ، وكما أظهرت ممارسة حل بعض المشكلات ، فإنها غالبًا ما أعطت نتائج أفضل من الحلول القائمة على نماذج رياضية مفرطة التعقيد. كانت فكرتهم هي التخلي عن الرغبة في إنشاء نموذج رياضي شامل للكائن قيد الدراسة (علاوة على ذلك ، كان من المستحيل عمليًا في كثير من الأحيان بناء نماذج مناسبة) ، وبدلاً من ذلك الاكتفاء بالإجابة فقط على أسئلة محددة تهمنا ، و يجب البحث عن هذه الإجابات من الاعتبارات المشتركة لفئة واسعة من المشاكل. تضمن البحث من هذا النوع التعرف على الصور المرئية ، والتنبؤ بالإنتاجية ، ومستويات الأنهار ، ومشكلة التمييز بين الزيت الحامل ومستودعات المياه الجوفية باستخدام البيانات الجيوفيزيائية غير المباشرة ، وما إلى ذلك. كان مطلوبًا إجابة محددة في هذه المهام في شكل بسيط إلى حد ما ، مثل ، على سبيل المثال ، ما إذا كان كائن ما ينتمي إلى إحدى الفئات المحددة مسبقًا. والبيانات الأولية لهذه المهام ، كقاعدة عامة ، تم تقديمها في شكل معلومات مجزأة حول الكائنات قيد الدراسة ، على سبيل المثال ، في شكل مجموعة من الكائنات المصنفة مسبقًا. من وجهة نظر رياضية ، هذا يعني أن التعرف على الأنماط (وسميت هذه الفئة من المشاكل في بلدنا) هو تعميم بعيد المدى لفكرة استقراء الوظيفة.

لا شك أن أهمية مثل هذه الصياغة للعلوم التقنية ، وهذا في حد ذاته يبرر العديد من الدراسات في هذا المجال. ومع ذلك ، فإن مشكلة التعرف على الأنماط لها أيضًا جانب أوسع للعلم الطبيعي (ومع ذلك ، سيكون من الغريب أن لا يكون شيء مهم جدًا لأنظمة الإنترنت الاصطناعية مهمًا للأنظمة الطبيعية). تضمن سياق هذا العلم عضوياً الأسئلة التي طرحها الفلاسفة القدامى حول طبيعة معرفتنا ، وقدرتنا على التعرف على الصور والأنماط والمواقف في العالم المحيط. في الواقع ، ليس هناك شك عمليًا في أن آليات التعرف على أبسط الصور ، مثل صور اقتراب مفترس أو طعام خطير ، قد تشكلت في وقت أبكر بكثير من ظهور اللغة الأولية والجهاز المنطقي الرسمي. وليس هناك شك في أن مثل هذه الآليات قد تم تطويرها أيضًا بشكل كافٍ في الحيوانات العليا ، والتي ، في نشاطها الحيوي ، تحتاج أيضًا بشكل عاجل إلى القدرة على تمييز نظام معقد إلى حد ما من علامات الطبيعة. وهكذا ، في الطبيعة ، نرى أن ظاهرة التفكير والوعي تستند بوضوح إلى القدرة على التعرف على الأنماط ، والتقدم الإضافي لعلم الذكاء يرتبط ارتباطًا مباشرًا بعمق فهم القوانين الأساسية للاعتراف. فهم حقيقة أن الأسئلة المذكورة أعلاه تتجاوز التعريف القياسي للتعرف على الأنماط (مصطلح التعلم الخاضع للإشراف أكثر شيوعًا في أدب اللغة الإنجليزية) ، من الضروري أيضًا فهم أن لديهم روابط عميقة مع هذا الضيق نسبيًا (ولكن لا يزال) بعيدًا عن استنفاد) الاتجاه.

حتى الآن ، دخلت التعرف على الأنماط بقوة في الحياة اليومية وهي واحدة من أكثر المعارف الحيوية للمهندس الحديث. في الطب ، يساعد التعرف على الأنماط الأطباء على إجراء تشخيصات أكثر دقة ؛ في المصانع ، يتم استخدامه للتنبؤ بالعيوب في دفعات من البضائع. تعتمد أنظمة تحديد الهوية الشخصية البيومترية باعتبارها جوهرها الحسابي أيضًا على نتائج هذا التخصص. مزيد من التطوير للذكاء الاصطناعي ، ولا سيما تصميم أجهزة الكمبيوتر من الجيل الخامس القادرة على التواصل المباشر مع شخص ما بلغات طبيعية للناس ومن خلال الكلام ، لا يمكن تصوره دون التعرف عليه. هنا ، الروبوتات ، أنظمة التحكم الاصطناعية التي تحتوي على أنظمة التعرف كنظم فرعية حيوية ، في متناول اليد.

هذا هو السبب في أن الكثير من الاهتمام قد انصب على تطوير التعرف على الأنماط منذ البداية من قبل المتخصصين من مختلف التشكيلات - علم التحكم الآلي ، وعلماء الفسيولوجيا العصبية ، وعلماء النفس ، وعلماء الرياضيات ، والاقتصاديين ، إلخ. لهذا السبب إلى حد كبير ، يتغذى التعرف على الأنماط الحديثة على أفكار هذه التخصصات. دون الادعاء بأنها كاملة (ومن المستحيل المطالبة بها في مقال قصير) ، سنصف تاريخ التعرف على الأنماط والأفكار الرئيسية.

تعريفات

قبل الانتقال إلى الطرق الرئيسية للتعرف على الأنماط ، نقدم بعض التعريفات الضرورية.

التعرف على الصور (كائنات أو إشارات أو مواقف أو ظواهر أو عمليات) هو مهمة تحديد كائن أو تحديد أي من خصائصه من خلال صورته (التعرف البصري) أو التسجيل الصوتي (التعرف الصوتي) وغيرها من الخصائص.

أحد العناصر الأساسية هو مفهوم المجموعة التي لا تحتوي على صياغة محددة. في الكمبيوتر ، يتم تمثيل المجموعة بمجموعة من العناصر غير المتكررة من نفس النوع. تعني كلمة "غير مكرر" أن بعض العناصر في المجموعة إما موجودة أو غير موجودة. تتضمن المجموعة العامة جميع العناصر الممكنة للمشكلة التي يتم حلها ، ولا تحتوي المجموعة الفارغة على أي منها.

الصورة عبارة عن تجميع تصنيف في نظام التصنيف يوحد (يفرد) مجموعة معينة من الكائنات وفقًا لبعض السمات. للصور خاصية مميزة تتجلى في حقيقة أن التعرف على عدد محدود من الظواهر من نفس المجموعة يجعل من الممكن التعرف على عدد كبير بشكل تعسفي من ممثليها. للصور خصائص موضوعية مميزة بمعنى أن الأشخاص المختلفين الذين يتعلمون من مواد رصدية مختلفة ، في الغالب ، يصنفون نفس الأشياء بنفس الطريقة وبشكل مستقل عن بعضهم البعض. في الصياغة الكلاسيكية لمشكلة التعرف ، تنقسم المجموعة العامة إلى أجزاء - صور. عادةً ما يُطلق على كل تعيين لأي كائن للأعضاء المدركة لنظام التعرف ، بغض النظر عن موضعه بالنسبة إلى هذه الأعضاء ، صورة للكائن ، ومجموعات هذه الصور ، التي توحدها بعض الخصائص المشتركة ، هي صور.

تسمى طريقة تعيين عنصر لأي صورة بقاعدة القرار. مفهوم آخر مهم هو المقاييس ، وهي طريقة لتحديد المسافة بين عناصر مجموعة عالمية. كلما كانت هذه المسافة أصغر ، كلما كانت الأشياء متشابهة (الرموز والأصوات وما إلى ذلك) التي نتعرف عليها. عادةً ما يتم تحديد العناصر كمجموعة من الأرقام ، ويتم تحديد المقياس كدالة. تعتمد كفاءة البرنامج على اختيار تمثيل الصور وتنفيذ المتري ، خوارزمية التعرف الواحدة بمقاييس مختلفة سترتكب أخطاء بترددات مختلفة.

عادةً ما يُطلق على التعلم عملية تطوير رد فعل معين في بعض الأنظمة لمجموعات من الإشارات الخارجية المتطابقة من خلال التأثير المتكرر على نظام التصحيح الخارجي. عادة ما يسمى هذا التعديل الخارجي في التدريب "التشجيع" و "العقاب". تحدد آلية إنشاء هذا التعديل بشكل شبه كامل خوارزمية التعلم. يختلف التعلم الذاتي عن التعلم حيث لا يتم الإبلاغ هنا عن معلومات إضافية حول صحة رد الفعل على النظام.

التكيف هو عملية تغيير معلمات النظام وهيكله ، وربما أيضًا إجراءات التحكم ، بناءً على المعلومات الحالية من أجل تحقيق حالة معينة من النظام مع عدم اليقين الأولي وظروف التشغيل المتغيرة.

التعلم هو عملية ، ونتيجة لذلك يكتسب النظام تدريجياً القدرة على الاستجابة بردود الفعل اللازمة لمجموعات معينة من التأثيرات الخارجية ، والتكيف هو تعديل معلمات وهيكل النظام من أجل تحقيق الجودة المطلوبة السيطرة في ظروف التغيرات المستمرة في الظروف الخارجية.

أمثلة على مهام التعرف على الأنماط: - التعرف على الحروف.

الموضوع 2.5. قدرة قناة الاتصال

في أي نظام اتصال ، يتم نقل المعلومات عبر قناة. لا يعتمد معدل الإرسال الخاص بها على القناة نفسها فحسب ، بل يعتمد أيضًا على خصائص الإشارة المطبقة على دخلها ، وبالتالي لا يمكن وصف القناة كوسيلة لنقل المعلومات. دعنا نجد طريقة لتقييم قدرة القناة على نقل المعلومات. لكل مصدر ، تأخذ كمية المعلومات المرسلة عبر القناة قيمتها الخاصة.

الحد الأقصى لمقدار المعلومات المرسلة ، المأخوذ من جميع المصادر الممكنة لإشارة الإدخال ، يميز القناة نفسها ويسمى عرض النطاق الترددي للقناة لكل رمز:

بت / شار.

(حيث يتم إجراء التعظيم على جميع توزيعات الاحتمالية متعددة المتغيرات P (A))

من الممكن أيضًا تحديد عرض النطاق الترددي C للقناة لكل وحدة زمنية.

احسب صبيب قناة متناظرة بدون ذاكرة

(2.26)

قيمة في هذه الحالة ، من السهل الحساب ، لأن الاحتمال الشرطي (الانتقالي) يأخذ قيمتين فقط: ، إذا و (1-P) ، إذا.

تحدث أول هذه القيم مع الاحتمال P ، والثانية مع الاحتمال (1-P). أيضًا ، نظرًا لأنه يتم النظر في قناة بلا ذاكرة ، فإن نتائج استقبال الرموز الفردية تكون مستقلة عن بعضها البعض.

(2.27)

لذلك ، لا تعتمد H (B / A) على توزيع الاحتمالات في المجموعة A ، ولكن يتم تحديدها فقط من خلال احتمالات الانتقال للقناة. يتم الحفاظ على هذه الخاصية لجميع الموديلات ذات الضوضاء المضافة.

بالتعويض عن (2.27) في (2.26) نحصل على:

نظرًا لأن المصطلح H (B) على الجانب الأيمن فقط يعتمد على التوزيع الاحتمالي P (A) ، فإن هذا المصطلح هو الذي يجب تعظيمه.

القيمة القصوى لـ H (B) تساوي log m وتتحقق عندما تكون جميع الرموز المستقبلة متساوية في الاحتمال ومستقلة عن بعضها البعض. من السهل التحقق من استيفاء هذا الشرط إذا كانت رموز الإدخال محتملة ومستقلة بشكل متساوٍ ، كما هو الحال في هذه الحالة

في نفس الوقت و

ومن هنا الإنتاجية لكل وحدة زمنية

لقناة متناظرة ثنائية (م = 2) إنتاجية بوحدات ثنائية لكل وحدة زمنية

الاعتماد على P حسب المعادلة (2.31)

مع P = 1/2 ، تكون سعة القناة الثنائية C = 0 ، لأنه مع مثل هذا الاحتمال الخطأ ، يمكن الحصول على تسلسل الرموز الثنائية للإخراج دون إرسال إشارات عبر القناة على الإطلاق ، ولكن عن طريق اختيارهم عشوائيًا (لـ على سبيل المثال ، وفقًا لنتائج رمي عملة معدنية) ، أي مع تسلسل P = 1/2 عند إخراج وإدخال القناة مستقلة. الحالة C = 0 تسمى فاصل القناة. تفسر حقيقة أن معدل النقل عند P = 1 في قناة ثنائية هو نفسه كما في P = 0 (قناة بدون ضوضاء) من خلال حقيقة أنه عند P = 1 يكفي لعكس جميع رموز الإخراج (أي استبدال 0 مع 1 و 1 مع 0) لاستعادة إشارة الإدخال بشكل صحيح.

يتم حساب إنتاجية القناة المستمرة بطريقة مماثلة. لنفترض ، على سبيل المثال ، أن القناة لها عرض نطاق ترددي محدود F. ثم تكون الإشارات U (t) و Z (t) ، على التوالي ، عند مدخلات وإخراج القناة وفقًا للنظرية. يتم تحديد Kotelnikov من خلال عيناتهم المأخوذة من خلال الفاصل الزمني 1 / (2F) ، وبالتالي فإن المعلومات التي تمر عبر القناة لبعض الوقت T تساوي مجموع كمية المعلومات المرسلة لكل عينة من هذا القبيل. عرض النطاق الترددي للقناة لكل عينة من هذا القبيل:

هنا U و Z عبارة عن متغيرات عشوائية - أقسام العمليات U (t) و Z (t) عند إدخال وإخراج القناة ، على التوالي ، ويتم أخذ الحد الأقصى على جميع إشارات الإدخال المسموح بها ، أي على جميع التوزيعات U .

يتم تعريف الإنتاجية C على أنها مجموع القيم المأخوذة من جميع العينات في الثانية. في هذه الحالة ، بالطبع ، يجب حساب الانتروبيا التفاضلية في (2.35) مع مراعاة العلاقات الاحتمالية بين القراءات.

دعونا نحسب سعة قناة مستمرة بدون ذاكرة مع ضوضاء غاوسية بيضاء مضافة لها عرض نطاق عرض F إذا كان متوسط ​​قوة الإشارة. يُشار إلى قدرة الضوضاء (التشتت) في النطاق F بالرمز. ترتبط قراءات إشارات الإخراج والإدخال ، وكذلك الضوضاء N ، بالمساواة:

نظرًا لأن N لها توزيع طبيعي مع توقع رياضي صفري ، فإن كثافة الاحتمال الشرطي لـ U الثابت ستكون طبيعية أيضًا - مع توقع رياضي U والتباين.

يتم تحديد عرض النطاق الترددي لكل عينة بالصيغة (2.32):

وفقًا لـ (2.24) ، فإن الانتروبيا التفاضلية الشرطية h (Z / U) للتوزيع الطبيعي لا تعتمد على التوقع الرياضي وهي تساوي. لذلك ، للعثور عليه ، يجب على المرء أن يجد كثافة التوزيع التي يتم فيها تكبير h (Z). من (2.33) ، مع الأخذ في الاعتبار أن U و N متغيرات عشوائية مستقلة ، فلدينا الفروق

وبالتالي ، يتم إصلاح التباين ، حيث يتم تقديمه. كما هو معروف ، مع تباين ثابت ، يتم توفير أقصى إنتروبيا تفاضلية بواسطة التوزيع الطبيعي. يمكن أن نرى من (2.33) أنه مع التوزيع العادي أحادي البعد U ، سيكون التوزيع Z طبيعيًا أيضًا ، وبالتالي ، يتم ضمان الحد الأقصى من الانتروبيا التفاضلية (2.24).

(2.34)

بالانتقال إلى معدل النقل C في الثانية ، نلاحظ أن المعلومات المرسلة عبر عدة عينات تكون بحد أقصى عندما تكون عينات الإشارة مستقلة. يمكن تحقيق ذلك إذا تم اختيار الإشارة U (t) بحيث تكون كثافتها الطيفية موحدة في النطاق F. والعينات المفصولة بفواصل زمنية مضاعفات 1 / (2F) غير مترابطة بشكل متبادل ، وبالنسبة للقيم الغوسية ، فإن الوسائل غير المرتبطة مستقلة . لذلك ، يمكن العثور على معدل النقل C (في الثانية) عن طريق إضافة النواتج (2.35) للعينات المستقلة 2F:

(2.36)

يتحقق ما إذا كانت U (t) عملية غوسية ذات كثافة طيفية موحدة في نطاق التردد F (ضوضاء شبه بيضاء).

يتضح من (2.36) أنه إذا لم تكن قوة الإشارة محدودة ، فإن الإنتاجية ستكون كبيرة بشكل تعسفي. يكون الصبيب صفراً إذا كانت نسبة الإشارة إلى الضوضاء في القناة صفراً. مع زيادة هذه النسبة ، تزداد الإنتاجية إلى أجل غير مسمى ، ولكن ببطء ، بسبب الاعتماد اللوغاريتمي.

العلاقة (2.36) تسمى صيغة شانون. هذه الصيغة مهمة في نظرية المعلومات ، لأنها تحدد اعتماد صبيب القناة المستمرة المعتبرة على خصائصها التقنية مثل عرض النطاق ونسبة الإشارة إلى الضوضاء. تشير صيغة شانون إلى إمكانية تبادل النطاق الترددي لقوة الإشارة والعكس صحيح. ومع ذلك ، نظرًا لأن C تعتمد خطيًا على F ، وعلى - وفقًا لقانون لوغاريتمي ، فعادة ما يكون من غير المربح التعويض عن الانخفاض المحتمل في عرض النطاق الترددي عن طريق زيادة قوة الإشارة. الأكثر كفاءة هو التبادل العكسي لقوة الإشارة لعرض النطاق الترددي.

الحد الأقصى لمقدار المعلومات التي يمكن إرسالها في المتوسط ​​عبر قناة متصلة في الوقت المناسب ،

لقناة Gaussian

(2.37)

لاحظ أنه عندما يتطابق التعبير (2.37) مع خاصية تسمى سعة (حجم) القناة.

في أي نظام اتصال ، يتم نقل المعلومات عبر قناة. لا يعتمد معدل نقل المعلومات على القناة نفسها فحسب ، بل يعتمد أيضًا على خصائص الإشارة المطبقة على دخلها ، وبالتالي لا يمكن وصف القناة كوسيلة لنقل المعلومات. تعتمد خصائص نظام الاتصال إلى حد كبير على معلمات قناة الاتصال المستخدمة لنقل الرسائل. تحتوي معظم القنوات الحقيقية على معلمات متغيرة ، والتي ، كقاعدة عامة ، تتغير بشكل عشوائي بمرور الوقت. يتم تحديد قناة الاتصال المتجانسة المتجانسة بالكامل من خلال أبجدية الرسالة المرسلة ، ومعدل إرسال عناصر الرسالة واحتمال الاستقبال الخاطئ لعنصر الرسالة Р osh (احتمال الخطأ).

عرض النطاق الترددي للقناة هو القيمة القصوى لمعدل نقل المعلومات عبر هذه القناة. أي أن عرض النطاق الترددي يميز إمكانية نقل المعلومات.

يتم حساب الإنتاجية بواسطة الصيغة:

بالنسبة لقناة ثنائية متماثلة (م = 2) ، الإنتاجية بوحدات ثنائية في الثانية (باود):

عندما تكون سعة القناة الثنائية C = 0 ، لأنه مع مثل هذا الاحتمال الخطأ ، يمكن الحصول على تسلسل الرموز الثنائية للإخراج دون إرسال إشارات عبر القناة على الإطلاق ، ولكن عن طريق اختيارهم عشوائيًا (على سبيل المثال ، وفقًا للنتائج رمي قطعة نقود) ، أي التسلسلات في إخراج وإدخال القناة مستقلة. الحالة C = 0 تسمى فاصل القناة. تفسر حقيقة أن معدل النقل لـ at في القناة الثنائية هو نفسه لـ (قناة بدون ضوضاء) من خلال حقيقة أنه يكفي لعكس جميع رموز الإخراج (على سبيل المثال ، استبدل 0 بـ 1 و 1 بـ 0) من أجل استعادة إشارة الإدخال بشكل صحيح.

أداء مصدر المعلومات هو:

كيلوبت في الثانية (7.3)

احسب سعة القناة مع جهاز الاستقبال الأمثل باستخدام الصيغة

كيلوبت في الثانية (7.2):

في هذه الحالة ، يكون عرض النطاق الترددي للقناة أكبر من أداء المصدر. هذا يسمح لنا باستنتاج أن القناة المحسوبة تفي بشرط شانون ويمكن استخدامها عمليًا لنقل الإشارات التناظرية والرقمية.

ترميز تصحيح الضوضاء

استقبال ترميز الإشارة التناظرية

عند إرسال البيانات الرقمية عبر قناة صاخبة ، هناك دائمًا احتمال أن تحتوي البيانات المستلمة على مستوى معين من معدل الخطأ. يقوم جهاز الاستقبال عادةً بتعيين مستوى معين من معدل الخطأ لا يمكن استخدام البيانات المستلمة فوقه. إذا تجاوز معدل الخطأ في البيانات المستلمة مستوى مقبول ، فيمكن استخدام تشفير تصحيح الخطأ ، مما يقلل من معدل الخطأ إلى مستوى مقبول. في القنوات التي بها تداخل ، تعتبر التشفير المصحح للضوضاء وسيلة فعالة لزيادة موثوقية إرسال الرسائل. يعتمد على استخدام رموز خاصة تصحح الأخطاء الناتجة عن التداخل. يسمى الرمز تصحيحيًا إذا كان يسمح باكتشاف الأخطاء أو اكتشافها وتصحيحها عند تلقي الرسائل. الكود الذي يتم من خلاله اكتشاف الأخطاء فقط يسمى رمز الكشف. عادة ما يتم تصحيح الخطأ في مثل هذا الترميز عن طريق تكرار الرسائل المشوشة. يتم إرسال طلب التكرار عبر قناة التغذية الراجعة. الكود الذي يصحح الأخطاء المكتشفة يسمى رمز التصحيح. في هذه الحالة ، لا يتم إصلاح حقيقة وجود الأخطاء فحسب ، بل يتم أيضًا تحديد رموز الرموز التي تم استلامها عن طريق الخطأ ، مما يسمح بتصحيحها دون إعادة الإرسال. تُعرف الرموز أيضًا حيث يتم تصحيح جزء فقط من الأخطاء المكتشفة ، ويتم إعادة إرسال المجموعات الخاطئة المتبقية.

من أجل أن يكون للشفرة إمكانيات تصحيحية ، يجب أن يحتوي تسلسل الكود على أحرف إضافية (زائدة عن الحاجة) مخصصة لتصحيح الخطأ. كلما زاد التكرار في الكود ، زادت قدرته التصحيحية ، ولكن أيضًا انخفض معدل نقل المعلومات عبر القناة.

يتم إنشاء أكواد التصحيح بحيث يتجاوز عدد التوليفات k عدد الرسائل n الخاصة بالمصدر. ومع ذلك ، في هذه الحالة ، يتم استخدام n فقط من مجموعات المصادر من العدد الإجمالي لإرسال المعلومات. تسمى هذه المجموعات المسموح بها ، والباقي - محظور. يعرف المتلقي جميع التركيبات المسموح بها والممنوعة. إذا ، عند تلقي رسالة معينة مسموح بها ، نتيجة لخطأ ما ، تندرج ضمن فئة الرسائل المحظورة ، فسيتم اكتشاف هذا الخطأ ، وكذلك تصحيحه في ظل ظروف معينة. وتجدر الإشارة إلى أنه في حالة حدوث خطأ نتج عنه إشارة ممكّنة أخرى ، فإن هذا الخطأ لا يمكن اكتشافه.

وبالتالي ، إذا كانت التركيبة عند المخرجات غير قانونية ، فهذا يشير إلى حدوث خطأ أثناء الإرسال. يوضح هذا أن الشفرة الزائدة تجعل من الممكن اكتشاف مجموعات الرموز المستلمة التي توجد بها رموز خاطئة. بالطبع ، لا يمكن الكشف عن جميع الأخطاء. هناك احتمال أنه ، على الرغم من الأخطاء التي حدثت ، سيكون التسلسل المستلم لرموز الشفرة مجموعة صالحة (ولكن ليس المجموعة التي تم إرسالها). ومع ذلك ، من خلال الاختيار الحكيم للكود ، يمكن أن يكون احتمال حدوث خطأ لم يتم اكتشافه (أي خطأ يترجم مجموعة مسموح بها إلى مجموعة أخرى مسموح بها) ضئيلاً للغاية.

تزداد كفاءة شفرة تصحيح الخطأ مع زيادة طولها ، حيث يتناقص احتمال فك التشفير الخاطئ مع زيادة طول الرسالة المشفرة.

يمكن تقسيم جميع الرموز المعروفة حاليًا إلى مجموعتين كبيرتين: الكتلة والمستمرة. تتميز رموز الكتلة بحقيقة أن تسلسل الرموز المرسلة مقسم إلى كتل. يتم إجراء عمليات التشفير وفك التشفير في كل كتلة على حدة. تتميز الرموز المستمرة بحقيقة أن التسلسل الأساسي للرموز التي تحمل المعلومات يتم تحويله باستمرار وفقًا لقانون معين إلى تسلسل آخر يحتوي على عدد زائد من الرموز. في هذه الحالة ، لا تتطلب عمليات التشفير وفك التشفير تقسيم رموز الكود إلى كتل.

يمكن فصل مجموعة متنوعة من أكواد الكتل والرموز المستمرة (مع إمكانية استخراج المعلومات وأحرف التحكم) ورموز لا يمكن فصلها. الرموز الخطية هي أكثر فئات الأكواد التي يمكن فصلها عددًا. تكمن خصوصيتها في أن رموز التحكم تتشكل كمجموعات خطية من رموز المعلومات.

مسافة هامينغ د بين متتابعين هي عدد المواضع التي يختلف فيها التسلسلان عن بعضهما البعض.

يتم دائمًا اكتشاف خطأ إذا كان تعدده ، أي عدد الرموز المشوهة في كلمة السر: q د ، تم العثور على بعض الأخطاء أيضًا. ومع ذلك ، لا يوجد ضمان كامل لاكتشاف الخطأ ، لأن يمكن أن تتطابق مجموعة خاطئة مع أي مجموعة مسموح بها. الحد الأدنى لمسافة الشفرة التي يتم عندها اكتشاف أي أخطاء فردية: d = 2.

في أغلب الأحيان ، يتم استخدام الرموز الخطية المنتظمة ، والتي يتم إنشاؤها على النحو التالي. أولاً ، تم إنشاء رمز بسيط للطول n ، أي مجموعة من جميع متواليات n للرموز الثنائية ، تسمى المعلوماتية. ثم يتم تعيين رموز التحقق r = p-n لكل من هذه التسلسلات ، والتي يتم الحصول عليها نتيجة لبعض العمليات الخطية على رموز المعلومات.

أبسط رمز نظامي (n ، n-1) يتم إنشاؤه عن طريق إضافة رمز فحص واحد إلى مجموعة رموز المعلومات n-1 ، مساوية لمجموع جميع رموز المعلومات ، modulo 2. ومن السهل أن نرى أن هذا المجموع يساوي صفر إذا كان هناك عدد زوجي من الآحاد بين رموز المعلومات ، ويساوي واحدًا إذا كان عدد الآحاد بين رموز المعلومات فرديًا. بعد إضافة رمز التحقق ، يتم تكوين مجموعات التعليمات البرمجية التي تحتوي على عدد زوجي فقط. يحتوي على مثل هذا الرمز ، حيث لا يمكن أن تختلف مجموعتان مختلفتان من الرموز التي تحتوي على عدد زوجي منها في بت واحد. لذلك ، يسمح لك باكتشاف الأخطاء الفردية. من السهل ملاحظة أنه من خلال تطبيق هذا الرمز في مخطط فك ترميز اكتشاف الأخطاء ، يمكن اكتشاف جميع أخطاء التعددية الفردية. للقيام بذلك ، يكفي حساب عدد الوحدات في المجموعة المستلمة والتحقق مما إذا كان العدد متساويًا. إذا حدثت أخطاء في عدد فردي من الأرقام q أثناء إرسال المجموعة ، فسيكون للجمع المستلم وزن فردي ، وبالتالي ، سيتم حظره. يُطلق على هذا الرمز رمز مع فحص تكافؤ واحد.

أبسط مثال على رمز التحقق من التماثل هو كود Baudot ، حيث يتم إضافة حرف التحقق السادس إلى مجموعات مكونة من خمسة أرقام من أحرف المعلومات. يتم تحديد احتمال وجود خطأ لم يتم اكتشافه بواسطة الكود للأخطاء المستقلة بواسطة قانون ذي الحدين:

أين عدد التركيبات الخاطئة:

وبالتالي ، مع الأخذ في الاعتبار أنه باستخدام الصيغتين (8.1) و (8.2) ، نجد احتمال عدم اكتشاف خطأ:

دعونا نحدد التكرار لقناة الاتصال المحسوبة باستخدام نتائج الحسابات التي تم إجراؤها في الفقرة 7 ، باستخدام نتائج الصيغتين (7.2) و (7.3):

تكرار كود Baudot (6.5)

التكرار في كود هامينج (7،4)

عند مقارنة (8.3) و (8.4) و (8.5) ، من الملاحظ أن التكرار للقناة يسمح فقط باستخدام كود Baudot للكشف (6.5) مع فحص التماثل.

احسب احتمال الخطأ في كود التصحيح ، مع مراعاة وقت الفراغ المتبقي (انظر الفقرة 3):

كما يلي من التعبير (8.6) ، ليس من المنطقي استخدام تشفير تصحيح الأخطاء ، لأن احتمال الخطأ في كود التصحيح مرتفع.

صبيب أنظمة نقل المعلومات

أحد الخصائص الرئيسية لأي نظام إرسال معلومات ، بالإضافة إلى تلك المذكورة أعلاه ، هو عرض النطاق الترددي الخاص به.

النطاق الترددي - أقصى قدر ممكن من المعلومات المفيدة المنقولة لكل وحدة زمنية:

ج = ماكس (إيماكس) / تك ،

ج = [بت في الثانية].

في بعض الأحيان يتم تعريف معدل نقل المعلومات على أنه أقصى قدر من المعلومات المفيدة في إشارة أولية واحدة:

s = max (Imax) / n ،

s = [بت / عنصر].

تعتمد الخصائص المدروسة فقط على قناة الاتصال وخصائصها ولا تعتمد على المصدر.

عرض النطاق الترددي لقناة اتصال منفصلة دون تدخل. في قناة اتصال بدون تداخل ، يمكن إرسال المعلومات بإشارة غير زائدة عن الحاجة. في هذه الحالة ، العدد n = m ، وانتروبيا الإشارة الأولية HCmax = logK.

max (IC) = nHCmax = mHC ماكس.

مدة الإشارة الأولية ، أين هي مدة الإشارة الأولية.

حيث FC هو طيف الإشارة.

صبيب قناة الاتصال دون تدخل

دعونا نقدم مفهوم معدل توليد إشارة أولية بواسطة مصدر معلومات:

بعد ذلك ، باستخدام المفهوم الجديد ، يمكننا تحويل صيغة معدل نقل المعلومات:

تحدد الصيغة الناتجة أقصى معدل ممكن لنقل المعلومات في قناة اتصال منفصلة بدون تداخل. هذا يتبع من افتراض أن إنتروبيا الإشارة هي الحد الأقصى.

إذا كان HC< HCmax, то c = BHC и не является максимально возможной для данного канала связи.

عرض النطاق الترددي لقناة اتصال منفصلة مع ضوضاء. في قناة اتصال منفصلة مع تداخل ، فإن الحالة الموضحة في الشكل. 6.

مع الأخذ في الاعتبار خاصية الإضافة ، بالإضافة إلى صيغ شانون لتحديد كمية المعلومات التي تمت مناقشتها أعلاه ، يمكننا أن نكتب

IC = سجل TC FC (AK PC) ،

IPOM \ u003d TP FP log (APP).

بالنسبة للمستقبل ، يكون مصدر المعلومات المفيدة ومصدر التداخل متساويين ، لذلك من المستحيل على جانب الاستقبال عزل مكون التداخل في الإشارة بالمعلومات الناتجة

IRES = سجل TC FC (AK (PP + PC)) ، إذا كان TC = TP ، FC = FP.

قد يكون جهاز الاستقبال ضيق النطاق ، وقد يكون التداخل في فترات تردد أخرى. في هذه الحالة ، لن يؤثر على الإشارة.

سنحدد الإشارة الناتجة لأكثر الحالات "غير السارة" ، عندما تكون معلمات الإشارة والضوضاء قريبة من بعضها البعض أو تتزامن. يتم تحديد المعلومات المفيدة من خلال التعبير

تم الحصول على هذه الصيغة بواسطة شانون. يحدد معدل نقل المعلومات عبر قناة اتصال إذا كانت الإشارة تحتوي على طاقة كمبيوتر شخصي ، وكان للتداخل طاقة PP. سيتم إرسال جميع الرسائل بهذه السرعة بيقين مطلق. لا تحتوي الصيغة على إجابة لسؤال حول كيفية تحقيق هذه السرعة ، ولكنها تعطي أقصى قيمة ممكنة لـ c في قناة اتصال صاخبة ، أي قيمة معدل الإرسال الذي تكون فيه المعلومات المستلمة موثوقة تمامًا . من الناحية العملية ، من الأكثر اقتصادا السماح بقدر معين من الخطأ في الرسالة ، على الرغم من زيادة معدل الإرسال.

النظر في حالة الكمبيوتر >> PP. إذا قدمنا ​​مفهوم نسبة الإشارة إلى الضوضاء

PC >> PP يعني ذلك. ثم

تعكس الصيغة الناتجة السرعة القصوى لإشارة قوية في قناة اتصال. إذا كان جهاز الكمبيوتر<< PП, то с стремится к нулю. То есть сигнал принимается на фоне помех. В таком канале в единицу времени сигнал получить не удается. В реальных ситуациях полностью помеху отфильтровать нельзя. Поэтому приемник получает полезную информацию с некоторым набором ошибочных символов. Канал связи для такой ситуации можно представить в виде, изображенном на рис. 7, приняв источник информации за множество передаваемых символов {X}, а приемник – за множество получаемых символов {Y}.

الشكل 7 رسم بياني لاحتمالات الانتقال لقناة اتصال K-ary

بين هناك بعض المراسلات الفردية. إذا لم يكن هناك تداخل ، فإن احتمال تطابق واحد لواحد يساوي واحدًا ، وإلا فهو أقل من واحد.

إذا كان qi هو احتمال الخطأ في yi من أجل xi ، و pij = p (yi / xi) هو احتمال الخطأ ، إذن

.

يعكس الرسم البياني لاحتمالات الانتقال النتيجة النهائية لتأثير الضوضاء على الإشارة. كقاعدة عامة ، يتم الحصول عليها تجريبيًا.

يمكن تقدير المعلومات المفيدة على أنها IPOL = nH (X Y) ، حيث n هو عدد الرموز الأولية في الإشارة ؛ H (X Y) هي الانتروبيا المتبادلة للمصدر X والمصدر Y.

في هذه الحالة ، يكون مصدر X هو مصدر الحمولة ، ومصدر Y هو جهاز الاستقبال. يمكن اشتقاق العلاقة التي تحدد المعلومات المفيدة من معنى الانتروبيا المتبادلة: يحدد القسم المظلل من الرسم التخطيطي الرسائل المرسلة من المصدر X والتي يستقبلها المستقبل Y ؛ تمثل المناطق غير المظللة إشارات المصدر X التي لم تصل إلى المستقبل واستقبلتها الإشارات الخارجية للمستقبل التي لم يرسلها المصدر.

B هو معدل توليد الرموز الأولية عند إخراج المصدر.

للحصول على الحد الأقصى ، تحتاج إلى زيادة H (Y) إن أمكن وتقليل H (Y / X). بيانياً ، يمكن تمثيل هذا الموقف بدمج الدوائر في الرسم التخطيطي (الشكل 2 د).

إذا لم تتقاطع الدوائر على الإطلاق ، فإن X و Y موجودان بشكل مستقل عن بعضهما البعض. فيما يلي ، سيظهر كيف يمكن استخدام التعبير العام لمعدل الإرسال الأقصى عند تحليل قنوات اتصال معينة.

عند تحديد قناة منفصلة ، يتم استخدام مفهومين للسرعة: تقني وإعلامي.

يشير معدل الإرسال التقني RT ، المعروف أيضًا باسم معدل القفل ، إلى عدد الرموز (الشرائح) المرسلة عبر القناة لكل وحدة زمنية. يعتمد ذلك على خصائص خط الاتصال وسرعة معدات القناة.

مع الأخذ في الاعتبار الاختلافات في مدة الرموز ، يتم تحديد السرعة الفنية على أنها

أين هو متوسط ​​وقت مدة الحرف.

وحدة القياس هي "الباود" - وهو المعدل الذي يتم فيه إرسال حرف واحد في ثانية واحدة.

يتم تحديد معدل المعلومات أو معدل المعلومات من خلال متوسط ​​كمية المعلومات التي يتم إرسالها عبر القناة لكل وحدة زمنية. يعتمد ذلك على خصائص قناة معينة (مثل حجم الأبجدية للرموز المستخدمة ، والسرعة التقنية لإرسالها ، والخصائص الإحصائية للتداخل في الخط) ، وعلى احتمالات وصول الرموز إلى المدخلات وعلاقتها الإحصائية.

مع معدل معالجة معروف ، يتم إعطاء معدل نقل المعلومات عبر القناة من خلال العلاقة:

,

أين هو متوسط ​​كمية المعلومات التي يحملها حرف واحد.

للممارسة ، من المهم معرفة إلى أي مدى وبأي طريقة يمكن زيادة سرعة نقل المعلومات عبر قناة معينة. تتميز الإمكانيات المحدودة لقناة ما بإرسال المعلومات بقدرتها.

سعة قناة مع احتمالات انتقال معينة تساوي الحد الأقصى للمعلومات المرسلة عبر جميع توزيعات المدخلات لرموز المصدر X:

من وجهة نظر رياضية ، يتم تقليل البحث عن عرض النطاق الترددي لقناة منفصلة بدون ذاكرة إلى البحث عن التوزيع الاحتمالي لرموز الإدخال للمصدر X ، والذي يوفر أقصى قدر من المعلومات المرسلة. في الوقت نفسه ، يتم فرض القيد التالي على احتمالات رموز الإدخال: , .

في الحالة العامة ، يكون تحديد الحد الأقصى تحت قيود معينة ممكنًا باستخدام طريقة لاغرانج المضاعفة. ومع ذلك ، فإن مثل هذا الحل باهظ التكلفة.

في حالة معينة ، بالنسبة للقنوات المتماثلة المنفصلة بدون ذاكرة ، يتم تحقيق الإنتاجية (الحد الأقصى ، من خلال التوزيع المنتظم لرموز الإدخال الخاصة بالمصدر X.

بعد ذلك ، بالنسبة إلى DSC بدون ذاكرة ، بافتراض أن احتمال الخطأ معطى ولرموز الإدخال المحتملة المتساوية = = = = 1/2 ، يمكننا الحصول على سعة هذه القناة من خلال التعبير المعروف جيدًا عن:

حيث = هي إنتروبيا قناة متناظرة ثنائية لاحتمال خطأ معين ε.

الاهتمام هي الحالات الحدودية:

1. نقل المعلومات عبر قناة صامتة (بدون تداخل):

، [بت / حرف].

مع الخصائص التقنية الرئيسية للقناة الثابتة (على سبيل المثال ، عرض النطاق ومتوسط ​​وقوة الإرسال القصوى) ، والتي تحدد قيمة السرعة التقنية ، فإن صبيب القناة بدون تداخل سيكون مساوياً لـ [bps].