वेगळ्या चॅनेलच्या क्षमतेचे निर्धारण. हस्तक्षेप न करता स्वतंत्र संप्रेषण चॅनेल. संप्रेषण चॅनेल वैशिष्ट्यीकृत आहेत

1. स्त्रोताला मागील घटकांकडे दुर्लक्ष करून आणि समान संभाव्यतेसह, नंतर संदेश घटक निवडू द्या . या व्यतिरिक्त, एन्कोडिंग कोणत्याही प्रकारे संदेश घटक आणि कोड चिन्ह यांच्यामध्ये एक-टू-वन पत्रव्यवहार स्थापित करण्यासाठी खाली येते.

अर्थात, प्रति सेकंद संदेश घटक चॅनेलवर प्रसारित करणे शक्य आहे. पण . अशा प्रकारे, या परिस्थितीत प्रमेय सुद्धा वैध आहे. या प्रकरणात, काहीवेळा असे मानले जाते (जरी जास्त कारण नसतानाही) संदेश एन्कोडिंगशिवाय प्रसारित केला जातो.

2. ते पूर्वीसारखे असू द्या , पण, पूर्णांक कुठे आहे. लांबीच्या कोड चिन्हांचे ("कोड संयोजन") सर्व संभाव्य अनुक्रम तयार करू.

. (2.8)

अर्थात, त्यांची संख्या समान आहे. संदेशातील प्रत्येक घटक आणि कोड कॉम्बिनेशन यांच्यात एक-एक पत्रव्यवहार स्थापित करूया. अशा प्रकारे, चॅनेलवर प्रसारित केलेल्या चिन्हांचे प्रत्येक संयोजन एका संदेश घटकाशी संबंधित आहे आणि म्हणून, संदेश घटकांचा प्रसार दर

अशा प्रकारे, या प्रकरणात, प्रमेय साठी देखील वैध आहे. असा कोड, ज्यामध्ये सर्व कोड कॉम्बिनेशनची लांबी समान असते, त्याला युनिफॉर्म-बिट कोड म्हणतात.

3. सह समान स्त्रोतासाठी द्या

वर्णमालेची मात्रा ही संख्येची पूर्णांक शक्ती नाही. म्हणून, उदाहरणार्थ, 0, 1,..., 9 पैकी कोणतेही दहा अंक स्वतंत्रपणे आणि समान संभाव्यतेसह स्त्रोत निवडू द्या आणि चॅनेलमध्ये दोन चिन्हे आहेत (त्यांना 0 आणि 1 दर्शवूया) आणि प्रति चिन्हे प्रसारित करण्यास अनुमती देते. दुसरा येथे दरवाजे आहेत. युनिट्स आणि . प्रमेयानुसार, अशा चॅनेलमधील अंक प्रसारण दर अनियंत्रितपणे जवळ केला जाऊ शकतो.एकसमान -बिट कोडसह प्रत्येक अंक एन्कोड करून हे साध्य करण्याचा प्रयत्न करूया. हे मूलत: 0, 1,..., 9 पैकी प्रत्येक दहा अंक दर्शवितात या वस्तुस्थितीवर उकळते

बायनरी संख्या : 0000, 0001,..., 1001. अर्थात, यासाठी चार-बिट बायनरी संख्यांची आवश्यकता असेल. अशा प्रकारे, अशा एन्कोडिंगसह प्रत्येक संदेश घटक (अंक) साठी, 4 कोड चिन्हे आवश्यक असतील, तर प्रमेय असे सांगते की 3,332 प्रति अंकी कोड चिन्हांची संख्या गाठून अधिक "किफायतशीर" एन्कोडिंग प्राप्त केले जाऊ शकते.एन्कोडिंग करण्यापूर्वी स्त्रोत वर्णमाला वाढवल्यास हे केले जाऊ शकते हे आम्ही दर्शवू. आम्ही स्त्रोताद्वारे तयार केलेल्या अंकांच्या प्रत्येक जोडीचा दोन-अंकी म्हणून विचार करू दशांश संख्या , म्हणजे, येथून पुढे जाऊ या. 100 पेक्षा कमी कोणतीही संख्या सात-बिट बायनरी संख्या म्हणून दर्शविली जाऊ शकते (या आधारावर 27 = 128 > 100, तर 26 = 64 आणि म्हणून सहा-बिट बायनरी संख्या सर्व दोन-अंकी दशांश संख्या दर्शवण्यासाठी पुरेसे नाहीत). या एन्कोडिंगसह, प्रत्येक दोन संदेश वर्णांसाठी, सात कोड चिन्हे आवश्यक असतील, म्हणजे सरासरी 3.5 कोड वर्णसंख्यानुसार, आणि 4 नाही, जसे की वर्णमाला वाढवण्याआधी होती.

तीन-अंकी दशांश संख्या म्हणून स्त्रोताद्वारे तयार केलेल्या प्रत्येक तीन अंकांचा विचार करून, वर्णमाला मोठे करणे सुरू ठेवूया. हे बायनरीमध्ये 10-बिट नंबर म्हणून दर्शविले जाऊ शकते (210=1024>1000 पासून). म्हणून, अशा एन्कोडिंगसह, एका अंकासाठी 10/3 = 3.333 कोड चिन्हांची आवश्यकता असेल, जे आधीपासूनच 3.332 च्या सैद्धांतिक मूल्याच्या अगदी जवळ आहे.

वर्णमाला आणखी वाढवण्यामुळे अशा बायनरी चॅनेलवर अंकांच्या प्रसारणाची गती मूल्याच्या अगदी जवळ आणणे शक्य होईल, परंतु, अर्थातच, त्यापेक्षा जास्त नाही.

. (2.9)

खरंच, जर तुम्ही स्त्रोताद्वारे तयार केलेले अंक -बिट दशांश संख्येमध्ये एकत्र केले, तर ते -बिट बायनरी संख्या म्हणून प्रस्तुत केले जाऊ शकते, जर ते किंवा , कोठून INया प्रकरणात

समान चिन्ह देखील शक्य नाही, कारण पूर्णांक आणि समानतेचा अर्थ असा होतो की ती परिमेय संख्या आहे, तर प्रत्यक्षात ती अपरिमेय आहे.

(2.10)

सर्वसाधारणपणे, जेव्हा , परंतु पूर्णांक किंवा परिमेय शक्ती नसते, तेव्हा कोणत्याही संख्येसाठी असमानता वैध असेल अशी संख्या शोधणे शक्य आहे. आम्ही संदेशाच्या प्रत्येक अक्षराला घटकांच्या आकारमानासह विस्तारित वर्णमालेचे एक अक्षर मानू आणि एकसमान आकाराची मोठी अक्षरे आणि कोड संयोजन यांच्यामध्ये एक-टू-वन पत्रव्यवहार स्थापित करू.-बिट कोड , जे नेहमी (2.10) (पासून) वर आधारित केले जाऊ शकते आणि काही संयोजने न वापरलेली राहतील. नंतर चॅनेलवर प्रसारित केलेल्या चिन्हांचे प्रत्येक संयोजन संदेशाच्या प्राथमिक वर्णमालाच्या अक्षरांशी संबंधित आहे. संदेश प्रक्षेपण गती समान आहे, ज्याचा वेग अनियंत्रितपणे जवळ आहे

- प्रति सेकंद अक्षरे. या कोडिंग पद्धतीला आपण आदिम म्हणू. हे विधान, अर्थातच, प्रमेयाच्या आवश्यकतेपेक्षा कमकुवत आहे, त्यानुसार एंट्रोपी असलेल्या कोणत्याही स्त्रोतासाठी प्रसारण दर अनियंत्रितपणे जवळ असू शकतो. संप्रेषण चॅनेलचे सामान्य वर्णन आणि माहिती सिद्धांताच्या बांधकामासाठी, समान मॉडेल वापरले जाते. जर संच असेल तर वाहिनीला स्वतंत्र (सतत) म्हणतातएक्स आणिस्वतंत्र (सतत) आणि सेमी-कंटिन्युअस जर एक संच वेगळा असेल आणि दुसरा सतत असेल. खाली फक्त वेगळ्या चॅनेलची चर्चा केली आहे.

चॅनेलचे पूर्णपणे सशर्त संभाव्यतेद्वारे वर्णन केले आहे जे k-ì प्राप्त चिन्ह असेल

jkसेटचे वें चिन्ह आणि (j k = 1, मी y ).

ही संभाव्यता कार्य म्हणून मानली जाऊ शकते , ज्याचा प्रकार चॅनेलची स्थिती प्रतिबिंबित करतो, विशेषतः, हस्तक्षेप आणि सिग्नल यांच्यातील परस्परसंवादाचे स्वरूप. जर

मग संबंधित वाहिनीला मेमरीलेस चॅनेल म्हणतात. संभाव्यता असल्यास वर अवलंबून नाही k(वि. वेळ), नंतर संबंधित चॅनेलला स्थिर म्हणतात. आम्ही स्मृतीशिवाय केवळ स्थिर चॅनेलचा विचार करण्यापुरते मर्यादित राहू. माहिती हस्तांतरण दर मर्यादा म्हणून परिभाषित करूया:

प्रसारित आणि प्राप्त दरम्यान सरासरी परस्पर माहिती कुठे आहे. जर हस्तक्षेप नसेल तर एच(एक्स/आणि)=0, म्हणून, आर = एच(एक्स). मेमरीलेस चॅनेलच्या बाबतीत ही मर्यादा परस्पर माहितीच्या समान आहे:

R=I(X, Y)= एच(एक्स) -एच(X|Y)= एच(आणि)-एच(Y|X) .

माहिती हस्तांतरण दर आरपूर्णपणे निर्धारित

संभाव्यता . म्हणून, मूल्य बदला आरआपण फक्त वितरणाचा प्रकार बदलूनच करू शकतो , कारण हे अनियंत्रित वाहिनीचे वैशिष्ट्य आहे. चला चॅनेलची क्षमता निश्चित करूया सहजास्तीत जास्त माहिती हस्तांतरण गती म्हणून:

.

जर हस्तक्षेप नसेल तर

.

सममितीय चॅनेलच्या क्षमतेची गणना

चॅनेलचा एक वर्ग आहे ज्यासाठी बँडविड्थ आहे सहगणना करणे सोपे. तथाकथित स्टोकास्टिक मॅट्रिक्सद्वारे चॅनेलचे पूर्णपणे वर्णन केले जाते

ज्यामध्ये स्ट्रिंग बनवणाऱ्या सर्व घटकांची बेरीज एक असते.

जर मॅट्रिक्सच्या पंक्ती संख्यांच्या विशिष्ट संचाच्या व्यवस्थेच्या क्रमाने भिन्न असतील तर चॅनेलला सममितीय इनपुट म्हणतात.

इनपुट-सिमेट्रिक चॅनेलसाठी, आंशिक सशर्त एन्ट्रॉपी

हे हस्तांतरित पत्राच्या संख्येवर अवलंबून नाही आणि मॅट्रिक्सच्या कोणत्याही पंक्तीवरून मोजले जाऊ शकते. म्हणून सशर्त एन्ट्रॉपी

जर मॅट्रिक्सचे स्तंभ केवळ संख्यांच्या विशिष्ट संचाच्या मांडणीच्या क्रमाने भिन्न असतील तर चॅनेलला सममितीय आउटपुट म्हणतात.

जर स्त्रोत वितरण एकसमान असेल

नंतर आउटपुटमध्ये सममितीय चॅनेलच्या आउटपुटवरील वितरण देखील एकसमान असेल. त्याच वेळी, एन्ट्रॉपी H(X)आणि एच(आणि) त्यांचे कमाल मूल्य गाठा. आपण संभाव्यता अवलंबून नाही हे सिद्ध केल्यास हे सत्यापित करणे सोपे आहे येथे j . फॉर्ममध्ये संभाव्यता दर्शवू

पासून

रक्कम स्तंभ क्रमांक j आणि सर्वसाधारणपणे यावर अवलंबून नाही

केस एकता समान नाही. त्यामुळे संभाव्यता देखील आहे

वर अवलंबून नाही jआणि समान आहे . त्याच वेळी

जर चॅनेल इनपुट आणि आउटपुटमध्ये सममित असेल तर त्याला सममितीय म्हणतात. साठी सममितीय चॅनेल एच(आणि| एक्स) संदेश स्त्रोताच्या वितरणावर अवलंबून नाही, म्हणून थ्रुपुट

उदाहरण म्हणून, मॅट्रिक्सद्वारे वर्णन केलेल्या सममितीय चॅनेलच्या क्षमतेची गणना करूया.

कुठे मी= मी एक्स = मी आणि . या प्रकरणात

सी 1

0,2

0 0,2 0,4 0,6 0,8 1 पी e

तांदूळ. 3. बँडविड्थ अवलंबित्व

त्रुटीच्या संभाव्यतेवर DSC क्षमता p e

संभाव्यता १- p e संभाव्यतेच्या समान योग्य रिसेप्शनचिन्ह त्रुटीची शक्यता p eरिसेप्शनच्या संभाव्यतेच्या समान y j c प्रदान केले की ते प्रसारित केले गेले x i . मग

बायनरी सिमेट्रिक चॅनेल (DSC) व्यापक झाले आहे ( मी=2), ज्यासाठी थ्रूपुट (चित्र 3)

जास्तीत जास्त माहिती हस्तांतरण दर, एकता समान, तेव्हा प्राप्त होते आर e =0 आणि येथे आर e=1. या प्रकरणात, संच संप्रेषण चॅनेलचे सामान्य वर्णन आणि माहिती सिद्धांताच्या बांधकामासाठी, समान मॉडेल वापरले जाते. जर संच असेल तर वाहिनीला स्वतंत्र (सतत) म्हणतातआणि आणिएक ते एक पत्रव्यवहारात आहेत, आणि स्वीकारल्यानुसार येथे j (j=1, 2) नेहमी एका, प्रसारित अक्षराच्या समान संभाव्यतेसह निर्धारित केले जाऊ शकते. दुर्दैवाने, हे केवळ तेव्हाच शक्य आहे जेव्हा संभाव्यता मूल्य प्राधान्याने ओळखले जाते (रिसेप्शनपूर्वी) आर e(शून्य किंवा एक).

अंजीर मध्ये. 1 खालील पदनाम स्वीकारले आहेत: X, Y, Z, W- सिग्नल, संदेश ; f- हस्तक्षेप; पीएम- संप्रेषण लाइन; एआय, पीआय- माहितीचा स्त्रोत आणि प्राप्तकर्ता; पी- कन्व्हर्टर (कोडिंग, मॉड्युलेशन, डीकोडिंग, डिमॉड्युलेशन).

आहेत विविध प्रकारचॅनेल जे विविध निकषांनुसार वर्गीकृत केले जाऊ शकतात:

1.संप्रेषण ओळींच्या प्रकारानुसार: वायर्ड; केबल; फायबर ऑप्टिक;

पॉवर लाईन्स; रेडिओ चॅनेल इ.

2. सिग्नलच्या स्वरूपानुसार: सतत; स्वतंत्र discrete-continuous (सिस्टीमच्या इनपुटवरील सिग्नल वेगळे असतात, आणि आउटपुटवर सतत असतात आणि त्याउलट).

3. आवाज प्रतिकारशक्तीच्या बाबतीत: हस्तक्षेप न करता चॅनेल; हस्तक्षेप सह.

संप्रेषण चॅनेलचे वैशिष्ट्य आहे:

1. चॅनेल क्षमता चॅनेल वापर वेळेचे उत्पादन म्हणून परिभाषित केले आहे टी ते,चॅनेलद्वारे प्रसारित वारंवारता स्पेक्ट्रमची रुंदी एफ तेआणि डायनॅमिक श्रेणीडी ते. , जे चॅनेलची प्रसारित करण्याची क्षमता दर्शवते विविध स्तरसिग्नल

V k = T k F k D k. (1)

चॅनेलसह सिग्नल जुळण्याची अट:

कुलगुरू £ Vk ; टी c £ रु ; एफ c £ F k ; कुलगुरू £ Vk ; डी सी £ डीके.

2.माहिती हस्तांतरण दर - वेळेच्या प्रति युनिट प्रसारित केलेल्या माहितीची सरासरी रक्कम.

3.

4. अतिरेक - सत्यता सुनिश्चित करते प्रसारित माहिती (आर= 0¸1).

माहितीच्या प्रेषणाच्या गतीचे अवलंबित्व आणि चॅनेलच्या पॅरामीटर्सवर संप्रेषण चॅनेलची क्षमता आणि सिग्नल आणि हस्तक्षेपाची वैशिष्ट्ये निर्धारित करणे हे माहिती सिद्धांताच्या कार्यांपैकी एक आहे.

दळणवळण वाहिनीची लाक्षणिकपणे रस्त्यांशी तुलना करता येते. अरुंद रस्ते - कमी क्षमता, परंतु स्वस्त. रुंद रस्ते चांगली वाहतूक क्षमता प्रदान करतात, परंतु महाग आहेत. बँडविड्थ"अडथळा" बिंदूद्वारे निर्धारित.

डेटा ट्रान्समिशनची गती मुख्यत्वे संप्रेषण चॅनेलमधील प्रसार माध्यमावर अवलंबून असते, जे विविध प्रकारच्या संप्रेषण ओळी वापरतात.

वायर्ड:

1. वायर्ड – वळलेली जोडी(जे अंशतः दाबते इलेक्ट्रोमॅग्नेटिक विकिरणइतर स्त्रोत). 1 Mbit/s पर्यंत हस्तांतरण गती. मध्ये वापरले टेलिफोन नेटवर्कआणि डेटा ट्रान्समिशनसाठी.

2. कोएक्सियल केबल.ट्रान्सफर स्पीड 10–100 Mbit/s – मध्ये वापरले स्थानिक नेटवर्क, केबल दूरदर्शनइ.

3. फायबर ऑप्टिक.हस्तांतरण गती 1 Gbit/s.

वातावरण 1-3 मध्ये, dB मधील क्षीणता रेखीय अंतरावर अवलंबून असते, उदा. शक्ती वेगाने कमी होते. त्यामुळे ठराविक अंतरावर रीजनरेटर (ॲम्प्लीफायर) बसवणे आवश्यक आहे.

रेडिओ लाईन्स:

1.रेडिओ चॅनेल.हस्तांतरण गती 100–400 Kbps. 1000 MHz पर्यंत रेडिओ फ्रिक्वेन्सी वापरते. 30 मेगाहर्ट्झ पर्यंत आयनोस्फियरच्या परावर्तनामुळे, प्रसार शक्य आहे इलेक्ट्रोमॅग्नेटिक लाटादृष्टीच्या पलीकडे. परंतु ही श्रेणी खूप गोंगाट करणारी आहे (उदाहरणार्थ, हौशी रेडिओ संप्रेषणे). 30 ते 1000 MHz पर्यंत - आयनोस्फियर पारदर्शक आहे आणि थेट दृश्यमानता आवश्यक आहे. अँटेना उंचीवर स्थापित केले जातात (कधीकधी रीजनरेटर स्थापित केले जातात). रेडिओ आणि दूरदर्शन मध्ये वापरले.

2.मायक्रोवेव्ह ओळी. 1 Gbit/s पर्यंत हस्तांतरण गती. 1000 MHz वरील रेडिओ फ्रिक्वेन्सी वापरल्या जातात. यासाठी थेट दृश्यमानता आणि अत्यंत दिशात्मक असणे आवश्यक आहे पॅराबॉलिक अँटेना. रीजनरेटर्समधील अंतर 10-200 किमी आहे. साठी वापरले जाते दूरध्वनी संप्रेषण, दूरदर्शन आणि डेटा ट्रान्समिशन.

3. उपग्रह संप्रेषण . मायक्रोवेव्ह फ्रिक्वेन्सी वापरल्या जातात आणि उपग्रह पुनरुत्पादक म्हणून काम करतो (अनेक स्थानकांसाठी). वैशिष्ट्ये मायक्रोवेव्ह लाइन्स प्रमाणेच आहेत.

2. बँडविड्थ स्वतंत्र चॅनेलसंप्रेषणे

एक स्वतंत्र चॅनेल म्हणजे प्रसारणासाठी हेतू असलेल्या साधनांचा संच स्वतंत्र सिग्नल.

संप्रेषण चॅनेल क्षमता - सर्वोच्च सैद्धांतिकदृष्ट्या प्राप्त करण्यायोग्य माहिती प्रसारित गती, जर त्रुटी दिलेल्या मूल्यापेक्षा जास्त नसेल. माहिती हस्तांतरण दर - वेळेच्या प्रति युनिट प्रसारित केलेल्या माहितीची सरासरी रक्कम. माहिती प्रेषण दर आणि वेगळ्या संप्रेषण चॅनेलच्या थ्रूपुटची गणना करण्यासाठी अभिव्यक्ती परिभाषित करूया.

प्रत्येक चिन्ह प्रसारित करताना, सरासरी, सूत्राद्वारे निर्धारित केलेली माहिती संप्रेषण चॅनेलमधून जाते

I (Y, X) = I (X, Y) = H(X) – H (X/Y) = H(Y) – H (Y/X) , (2)

कुठे: I (Y, X) -परस्पर माहिती, म्हणजे त्यात समाविष्ट असलेल्या माहितीचे प्रमाण आणितुलनेने एक्स ;H(X)- संदेश स्त्रोताची एन्ट्रॉपी; H(X/Y)- सशर्त एन्ट्रॉपी, जे हस्तक्षेप आणि विकृतीच्या उपस्थितीशी संबंधित प्रति चिन्ह माहितीचे नुकसान निर्धारित करते.

संदेश पाठवताना एक्स टीकालावधी टी,समावेश nप्राथमिक चिन्हे, प्रसारित माहितीची सरासरी रक्कम, माहितीच्या परस्पर रकमेची सममिती लक्षात घेऊन, समान आहे:

I(Y T , X T) = H(X T) – H(X T /Y T) = H(Y T) – H(Y T /X T) = n . (4)

माहिती प्रसारणाचा वेग स्त्रोताच्या सांख्यिकीय गुणधर्मांवर, कोडिंग पद्धतीवर आणि चॅनेलच्या गुणधर्मांवर अवलंबून असतो.

एका स्वतंत्र संप्रेषण चॅनेलची बँडविड्थ

जास्तीत जास्त संभाव्य मूल्य, उदा. संभाव्यता वितरण फंक्शन्सच्या संपूर्ण संचावर जास्तीत जास्त फंक्शनल शोधले जाते p (x) .

बँडविड्थ अवलंबून असते तांत्रिक वैशिष्ट्येचॅनेल (उपकरणे गती, मोड्यूलेशनचा प्रकार, हस्तक्षेप आणि विकृतीची पातळी इ.). चॅनेल क्षमतेची एकके आहेत: , , , .

2.1 हस्तक्षेप न करता स्वतंत्र संप्रेषण चॅनेल

जर संप्रेषण चॅनेलमध्ये कोणताही हस्तक्षेप नसेल, तर चॅनेलचे इनपुट आणि आउटपुट सिग्नल अस्पष्टपणे संबंधित आहेत, कार्यात्मक अवलंबित्व.

या प्रकरणात, सशर्त एंट्रोपी शून्य समान आहे, आणि स्त्रोत आणि प्राप्तकर्त्याच्या बिनशर्त एन्ट्रॉपी समान आहेत, म्हणजे. प्रसारित केलेल्या चिन्हाच्या तुलनेत प्राप्त चिन्हातील माहितीची सरासरी रक्कम आहे

I (X, Y) = H(X) = H(Y); H(X/Y) = 0.

जर एक्स टी- प्रत्येक वेळी वर्णांची संख्या टी, तर हस्तक्षेपाशिवाय वेगळ्या संप्रेषण चॅनेलसाठी माहिती प्रसारित दर समान आहे

कुठे व्ही = 1/ - एका चिन्हाची सरासरी प्रसारण गती.

हस्तक्षेपाशिवाय वेगळ्या संप्रेषण चॅनेलसाठी थ्रूपुट

कारण जास्तीत जास्त एंट्रॉपी तितक्याच संभाव्य चिन्हांशी संबंधित आहे, नंतर एकसमान वितरण आणि प्रसारित चिन्हांच्या सांख्यिकीय स्वातंत्र्यासाठी थ्रूपुट समान आहे:

चॅनेलसाठी शॅननचे पहिले प्रमेय: जर स्त्रोताद्वारे व्युत्पन्न केलेला माहिती प्रवाह संप्रेषण चॅनेल क्षमतेच्या पुरेसा जवळ असेल, म्हणजे.

, कुठेही - अनियंत्रितपणे लहान मूल्य,

मग तुम्ही नेहमी कोडिंग पद्धत शोधू शकता जी सर्व स्त्रोत संदेशांचे प्रसारण सुनिश्चित करेल आणि माहिती प्रसारण दर चॅनेल क्षमतेच्या अगदी जवळ असेल.

कोडिंग कसे पार पाडायचे या प्रश्नाचे उत्तर प्रमेय देत नाही.

उदाहरण १.स्त्रोत संभाव्यतेसह 3 संदेश तयार करतो:

p 1 = 0,1; p 2 = 0.2 आणि p 3 = 0,7.

संदेश स्वतंत्र आहेत आणि एकसमान बायनरी कोडमध्ये प्रसारित केले जातात ( मी = 2 ) 1 ms च्या चिन्ह कालावधीसह. हस्तक्षेप न करता संप्रेषण चॅनेलवर माहिती प्रसारित करण्याची गती निश्चित करा.

उपाय:स्त्रोत एन्ट्रॉपी बरोबर आहे

[बिट/से].

एकसमान कोडसह 3 संदेश प्रसारित करण्यासाठी, दोन अंक आवश्यक आहेत आणि कोड संयोजनाचा कालावधी 2t आहे.

सरासरी वेगसिग्नल ट्रान्समिशन

व्ही =1/2 t = 500 .

माहिती हस्तांतरण दर

सी = vH = 500 × 1.16 = 580 [बिट/से].

2.2 हस्तक्षेपासह स्वतंत्र संप्रेषण चॅनेल

आम्ही मेमरीशिवाय वेगळ्या संप्रेषण चॅनेलचा विचार करू.

मेमरीशिवाय चॅनेल एक चॅनेल आहे ज्यामध्ये प्रत्येक प्रसारित सिग्नल चिन्ह हस्तक्षेपामुळे प्रभावित होते, यापूर्वी कोणते सिग्नल प्रसारित केले गेले होते याची पर्वा न करता. म्हणजेच, हस्तक्षेप चिन्हांमध्ये अतिरिक्त परस्परसंबंध निर्माण करत नाही. "नो मेमरी" नावाचा अर्थ असा आहे की पुढील ट्रान्समिशन दरम्यान चॅनेलला मागील ट्रान्समिशनचे परिणाम आठवत नाहीत.

2.1 हस्तक्षेप न करता स्वतंत्र संप्रेषण चॅनेल

संप्रेषण चॅनेलमध्ये कोणताही हस्तक्षेप नसल्यास, चॅनेलचे इनपुट आणि आउटपुट सिग्नल एका अस्पष्ट, कार्यात्मक संबंधाने जोडलेले असतात.

या प्रकरणात, सशर्त एंट्रोपी शून्य समान आहे, आणि स्त्रोत आणि प्राप्तकर्त्याच्या बिनशर्त एन्ट्रॉपी समान आहेत, म्हणजे. प्रसारित केलेल्या चिन्हाच्या तुलनेत प्राप्त चिन्हातील माहितीची सरासरी रक्कम आहे

I (X, Y) = H(X) = H(Y); H(X/Y) = 0.

जर X T वेळ T दरम्यान चिन्हांची संख्या असेल, तर हस्तक्षेप न करता वेगळ्या संप्रेषण चॅनेलसाठी माहिती प्रसारित दर समान असेल

जेथे V = 1/ - एका चिन्हाचा सरासरी प्रसारण वेग.

हस्तक्षेपाशिवाय वेगळ्या संप्रेषण चॅनेलसाठी थ्रूपुट

(7)

कारण जास्तीत जास्त एंट्रॉपी तितक्याच संभाव्य चिन्हांशी संबंधित आहे, नंतर एकसमान वितरण आणि प्रसारित चिन्हांच्या सांख्यिकीय स्वातंत्र्यासाठी थ्रूपुट समान आहे:

. (8)

चॅनेलसाठी शॅननचे पहिले प्रमेय: जर स्त्रोताद्वारे व्युत्पन्न केलेल्या माहितीचा प्रवाह संप्रेषण चॅनेलच्या क्षमतेच्या पुरेसा जवळ असेल, म्हणजे.

, कोठे अनियंत्रितपणे लहान मूल्य आहे,

मग तुम्ही नेहमी कोडिंग पद्धत शोधू शकता जी सर्व स्त्रोत संदेशांचे प्रसारण सुनिश्चित करेल आणि माहिती प्रसारण दर चॅनेल क्षमतेच्या अगदी जवळ असेल.

कोडिंग कसे पार पाडायचे या प्रश्नाचे उत्तर प्रमेय देत नाही.

उदाहरण 1. स्त्रोत संभाव्यतेसह 3 संदेश तयार करतो:

p 1 = 0.1; p 2 = 0.2 आणि p 3 = 0.7.

संदेश स्वतंत्र आहेत आणि 1 एमएसच्या चिन्ह कालावधीसह एकसमान बायनरी कोड (m = 2) मध्ये प्रसारित केले जातात. हस्तक्षेप न करता संप्रेषण चॅनेलवर माहिती प्रसारित करण्याची गती निश्चित करा.

उपाय: स्त्रोताची एन्ट्रॉपी आहे

एकसमान कोडसह 3 संदेश प्रसारित करण्यासाठी, दोन अंक आवश्यक आहेत आणि कोड संयोजनाचा कालावधी 2t आहे.

सरासरी सिग्नल गती

V = 1/2t = 500.

माहिती हस्तांतरण दर

C = vH = 500×1.16 = 580 [bit/s].

2.2 हस्तक्षेपासह स्वतंत्र संप्रेषण चॅनेल

आम्ही मेमरीशिवाय वेगळ्या संप्रेषण चॅनेलचा विचार करू.

मेमरीशिवाय चॅनेल एक चॅनेल आहे ज्यामध्ये प्रत्येक प्रसारित सिग्नल चिन्ह हस्तक्षेपामुळे प्रभावित होते, यापूर्वी कोणते सिग्नल प्रसारित केले गेले होते याची पर्वा न करता. म्हणजेच, हस्तक्षेप चिन्हांमध्ये अतिरिक्त परस्परसंबंध निर्माण करत नाही. "नो मेमरी" नावाचा अर्थ असा आहे की पुढील ट्रान्समिशन दरम्यान चॅनेलला मागील ट्रान्समिशनचे परिणाम आठवत नाहीत.

हस्तक्षेपाच्या उपस्थितीत, प्राप्त संदेश चिन्हातील माहितीची सरासरी रक्कम Y आहे, प्रसारित केलेल्या - X च्या सापेक्ष:

संदेश चिन्ह X T कालावधीच्या T साठी, ज्यामध्ये n प्राथमिक चिन्हे असतात, प्राप्त झालेल्या संदेश चिन्हातील माहितीची सरासरी रक्कम - प्रसारित केलेल्या संदेशाशी संबंधित Y T - X T समान आहे:

I(Y T, X T) = H(X T) – H(X T /Y T) = H(Y T) – H(Y T /X T) = n)