सूचना सिद्धांत

बुनियादी अवधारणाओं के इस सिद्धांत पेश कर रहे हैं के चालीसवें वर्ष में, बीसवीं सदी लालकृष्ण शैनन है । सूचना सिद्धांत<मजबूत> – विज्ञान की प्रक्रियाओं के संचरण, भंडारण और डेटा की पुनर्प्राप्ति में प्राकृतिक, तकनीकी और सामाजिक व्यवस्था. में कई लागू वैज्ञानिक क्षेत्रों में इस तरह के रूप में कंप्यूटर विज्ञान, भाषा विज्ञान, क्रिप्टोग्राफी, नियंत्रण के सिद्धांत, छवि प्रसंस्करण, जेनेटिक्स, मनोविज्ञान, अर्थशास्त्र, उत्पादन के संगठन का उपयोग करता है, के तरीकों के इस विज्ञान में ।

आधुनिक परिस्थितियों में सिद्धांत के बारे में जानकारी है, बहुत मजबूती से जुड़े कोडन सिद्धांत, को संबोधित करने की सबसे आम समस्याओं के बीच अनुरूप संकेत और संदेश, और सिद्धांत के सिग्नल प्रोसेसिंग में जो हम अध्ययन परिमाणीकरण और पुनर्निर्माण के संकेत, वर्णक्रमीय और सहसंबंध विश्लेषण क्या है.

सूचना सिद्धांत मानता है बुनियादी धारणा के “जानकारी” सबसे अधिक भाग के लिए, मात्रात्मक हिस्सा है, पर विचार किए बिना अपने मूल्य, और कभी कभी अर्थ नहीं है । इस दृष्टिकोण में, एक पृष्ठ के पाठ में शामिल होंगे लगभग एक ही है कि डेटा की मात्रा केवल द्वारा निर्धारित वर्णों की संख्या और प्रतीकों, और पर निर्भर नहीं करता है तथ्य यह है कि, सख्ती से बोल रहा हूँ, वहाँ मुद्रित किया जाता है, भले ही पूरी तरह से व्यर्थ और अराजक एक संग्रह पात्रों में से कुछ.

इस दृष्टिकोण मान्य है, लेकिन केवल मॉडलिंग के लिए संचार प्रणाली, के रूप में वे सही ढंग से प्रेषित जानकारी के माध्यम से संचार चैनल है, जो किया जा सकता है के किसी सेट के वर्ण और प्रतीकों. तो, जब यह आवश्यक है पर विचार करने के लिए मूल्य और अर्थ के डेटा, मात्रात्मक दृष्टिकोण अस्वीकार्य है । ऐसी परिस्थितियों में लागू महत्वपूर्ण सीमाओं के क्षेत्रों पर संभव अनुप्रयोगों के सिद्धांत है.

मूल के बारे में जानकारी के सिद्धांत के विचार शामिल विभिन्न मुद्दों पर उन सहित, के लिए सीधे संबंधित पारेषण और स्वागत कक्ष के डेटा है । मुख्य योजना का संचार देखा जाता है, जो सिद्धांत में है, के रूप में इस प्रकार है । सूचना सिद्धांत और कोडन<मजबूत> का मानना है कि डेटा द्वारा उत्पन्न कर रहे हैं एक संदेश स्रोत है, जो एक शब्द या शब्दों का सेट, लिखा पत्र की एक निश्चित संख्या. इस संदेश के स्रोत हो सकते हैं पाठ में किसी भी प्राकृतिक या कृत्रिम भाषा, मानव भाषण, एक डेटाबेस और एक गणितीय मॉडल का उत्पादन है कि एक पत्र के अनुक्रम. ट्रांसमीटर धर्मान्तरित संदेश में संकेत करने के लिए इसी भौतिक प्रकृति के संचार चैनल-मध्यम के लिए संकेत संचरण. गुजर रहा है, जबकि खुद को प्रभावित किया जा सकता द्वारा हस्तक्षेप में विकृतियों का परिचय मूल्यों की जानकारी मानकों. रिसीवर ठीक मूल संदेश से प्राप्त विरूपण संकेत है । में बहाल संदेश आता है पाने के लिए-एक व्यक्ति या एक तकनीकी उपकरण है ।

संदेश स्रोत है एक सांख्यिकीय चरित्र, यानी की उपस्थिति प्रत्येक संदेश के द्वारा निर्धारित किया जाता है एक निश्चित संभावना है. सूचना सिद्धांत शैनन का मानना है कि अगर संभावना संदेश के बराबर है एक करने के लिए, यानी अपनी उपस्थिति और काफी अनिश्चितता नहीं है, मुझे लगता है कि यह बता देते हैं की कोई जानकारी नहीं है.

एक महत्वपूर्ण समस्याओं के बारे में जानकारी के सिद्धांत को समझता है के अनुरूप संचार चैनल और जानकारी के स्रोत गुण संदेश है । Throughput है इकाई में 1 बिट प्रति सेकंड ।

की समस्याओं में से एक संचार प्रणाली है हस्तक्षेप के रास्ते में उपयोगी संकेत है. शान्नोन की प्रमेय दुर्भाग्य से नहीं दे करता है, हमें एक विशिष्ट से निपटने की विधि में इस तरह के । सबसे आसान विधि के उन्मूलन में होते हैं, जो दोहराया पुनरावृत्ति के संदेश बहुत कुशल नहीं है, के रूप में यह बड़ी राशि की आवश्यकता है समय की जानकारी स्थानांतरित करने के लिए. अधिक से अधिक कुशलता का उपयोग करता है कि कोड का पता लगाने और सही संचरण त्रुटियों की जानकारी के लिए ।