תיאורית המידע

מושגי היסוד של תיאוריה זו הוכנסו בשנות הארבעים של המאה העשרים על ידי ג 'שאנון. תיאורית המידע - הוא מדע של העברה, אחסון ורכישת נתונים במערכות טבעיות, טכניות וחברתיות. בתחומים מדעיים יישומיים רבים, כגון מדעי המחשב, בלשנות, קריפטוגרפיה, תיאוריית בקרה, עיבוד תמונה, גנטיקה, פסיכולוגיה, כלכלה, ארגון הייצור, נעשה שימוש בשיטות של מדע זה.

בתנאים מודרניים עם התיאוריה של מידעתיאוריית קידוד היא מצמידה מאוד הדוק, בהתחשב בבעיות הנפוצות ביותר של התכתבות בין אות לבין הודעה, ואת התיאוריה של עיבוד אותות, שבו קוונטיזציה ושחזור של אותות נלמדים, כמו גם ניתוח ספקטרלי המתאם של אלה.

תיאוריית המידע רואה את המושג הבסיסי"מידע" על פי רוב מן הצד הכמותי, לא לוקח בחשבון את ערכו, ולפעמים את המשמעות. עם גישה זו, דף טקסט יכיל בערך אותה כמות של נתונים, שנקבעת רק על ידי מספר התווים והסמלים, וללא תלות במה שמודפס שם, גם אם היא קבוצה חסרת משמעות וכאוטית של תווים מסוימים.

גישה זו תקפה, אבל רק עבורמודלים של מערכות תקשורת, שכן הם חייבים להעביר מידע מדויק באמצעות ערוצי תקשורת, אשר יכול להיות מיוצג על ידי כל קבוצה של תווים וסמלים. יחד עם זאת, כאשר יש צורך לקחת בחשבון את הערך והמשמעות של הנתונים, גישה כמותית אינה מקובלת. נסיבות אלה מטילות הגבלות משמעותיות על תחומי היישום האפשרי של תיאוריה זו.

Основы теории информации предполагают שיקול של נושאים שונים, לרבות הקשורים ישירות שידור וקליטה של ​​נתונים. מערכת התקשורת הבסיסית, הנחשבת בהוראה, היא כדלקמן. תורת המידע והקידוד считает, что данные создаются источником הודעות, שהיא מילה או סדרה של מילים שנכתבו באותיות של אלפבית מסוים. המקור של ההודעה יכול להיות טקסט בכל שפה טבעית או מלאכותית, דיבור אנושי, מסדי נתונים וכמה מודלים מתמטיים שיוצרים רצף של אותיות. המשדר ממיר את המסר לאות המקביל לאופי הפיזי של ערוץ התקשורת - המדיום להעברת האות. במהלך המעבר, זה יכול להיות מושפע על ידי הפרעה כי מעוות את ערכי פרמטרים המידע. המקלט משחזר את ההודעה המקורית על האות המתקבל עם עיוות. ההודעה בצורה המשוחזרת מגיעה לנמען - לאדם מסוים או למכשיר טכני.

Источник сообщения имеет статистический характер, כלומר, הופעתו של כל הודעה נקבעת על ידי הסתברות מסוימת. תיאוריית המידע שאנון מאמינה שאם ההסתברות להודעה שווה לאחת, כלומר, הופעתה אמינה ואין שום עמימות, שקול שהיא אינה נושאת כל מידע.

אחת הבעיות החשובות בתורת המידע היא תיאום ערוץ התקשורת ומאפייני המידע של מקור המסרים. התפוקה נקבעת על ידי יחידת מידה של 1 סיביות לשנייה.

אחת הבעיות של מערכות תקשורת היא הפרעהאת הנתיב של האות שימושי. המשפט של שאנון, למרבה הצער, לא נותן לנו שיטה קונקרטית להתמודד עם כזה. השיטה הפשוטה ביותר של חיסול, אשר מורכב חזרות חוזרות של הודעות, אינו יעיל מאוד, שכן זה לוקח הרבה זמן להעביר מידע. הרבה יותר יעיל הוא השימוש בקודים המאפשרים לך לזהות ולתקן שגיאות בהעברת מידע.