Entropía de Shannon

Entropía de Shannon

Lo interesante es que entropía proviene de una palabra griega que significa evolución, en la que el tiempo representa el factor determinante, y los nuevos paradigmas científicos realzan el papel del tiempo y de la información en los acontecimientos evolutivos.

 

Teniendo en cuenta que el cerebro humano siguió creciendo hasta alcanzar una vía sin salida en el Neanderthal, y que el Homo sapiens sobrevivió gracias al uso del lenguaje, puede seguirse este proceso matemáticamente. Los centímetros cúbicos de capacidad del cráneo se obtienen por paleoantropología, y el número de palabras del lenguaje por extrapolación matemática de los datos existentes, según trabajos que he realizado. Es obvio que si en la actualidad existen 100.000 millones de neuronas en un cerebro de 1.500 c.c., su capacidad de sinapsis interneuronal puede medirse en bits. Se estima, que la apreciación de nuestra memoria puede oscilar entre 1012 a 1015 bits (una gran biblioteca pública puede tener almacenados libros con 1013 bits), aunque nuestra capacidad de asimilar información no sobrepasa los 25 bits/seg., lo que nos limita en una vida de 70 años a no poder almacenar más que unos 3x 109 bits. La naturaleza nos ha sobredimensionado, preparándonos para el futuro.

Una herramienta básica de la Teoría de la Información Clásica es cuantificar la información que es enviada en un mensaje.  

Claude E. Shannon demostró en 1948 que se puede realizar una correcta aproximación de la información contenida en un mensaje dado. El método de Shannon nos permite caracterizar cuanta información ganamos de una señal recibida. Si un mensaje tiene una alta probabilidad de ocurrencia, entonces cuando el mensaje es recibido no se gana mucha información nueva. Por otro lado, cuando la probabilidad de ocurrencia del mensaje es bajase gana una cantidad significativa de información al recibir el mensaje.

 

La entropía de Shannon además de ayudarnos a medir la cantidad de información contenida en un mensaje, puede ayudar a responder ¿qué tanto se puede comprimir un mensaje sin perder información?.

Para poder especificar una letra dentro del alfabeto se necesitan 2 bits de información.  Una palabra es una cadena al almacenarla, cabe destacar que una buena estrategia de compresión de datos es codificar las cadenas con mayor probabilidad de aparición con las secuencias de menor tamaño y las cadenas con menor probabilidad con secuencias mayores. Shannon demostró que la tasa de compresión óptima de datos está dada por la entropía de Shannon.

 

Mi conclusión es que entropía, no solo es una definición matemática, sino, que es la manera  de definir la transmisión de un mensaje y la parte fundamental de este, tomando en cuenta, la estructura del lenguaje y el sentido que se le quiere dar. Puesto que la población humana alcanzó su punto de inflexión hace ya dos décadas, la única posibilidad de que el potencial informativo siga creciendo nos lo ofrecen la masiva utilización de las máquinas informativas por la humanidad, que constituyen el fundamento de la nueva sociedad de la información o del conocimiento en la que estamos inmersos como protagonistas. De seguir la Ley de Moore, en el año 2018 se habrá superado la capacidad de almacenamiento de 1014 elementos por chip, lo que constituye la próxima barrera física a vencer, en los límites de la materia, pues la información es un recurso inacabable. Nuestra misión profesional es ponerlo a disposición de la humanidad.

The Information a History a theory a Flood 2011 by James Gleick

De acuerdo al Capitulo I y Capitulo 2 del libro The Information a History a theory a Flood 2011 by James Gleick, puedo definir lo siguiente:

 

La comunicación es la capacidad de poder transmitir, esto ha permitido que la humanidad evolucione, ya que con esto se ha podido transmitir cultura para el desarrollo. La invención de un código es un problema complejo y delicado, sin embargo, el ser humano por sobrevivencia, tuvo que aprender a comunicarse, a través de símbolos, imágenes y escritura, gracias a esto,  hemos podido adquirir conocimientos a través de libros, que nos permiten seguir descubriendo  nuevos conocimientos. Sin embargo, mucha de la información se perdió a través de los años, ya que como todos sabemos, los libros van perdiendo hojas, el material no es lo suficientemente resistente.

 

Hoy en día el uso de la tecnología al digitalizar la información, nos permite resguardarla, y reproducirla sin el temor  a perderla.

A través del tiempo, el hombre a desarrollado diferentes teorías acerca de la comunicación, por ejemplo:

Clarke decidió que el lenguaje del tambor era a la vez formulista y fluido.

Browne señaló, los expertos difieren. Dos siglos más pasarían antes de alguien realmente pudiera viajar lo suficientemente rápido, o comunicar con suficiente rapidez, a experimentar las diferencias locales de tiempo.

En una cultura oral, la inspiración tiene que servir a la claridad y la memoria primero.

Hartley tuvo algunas dificultades para justificar su uso de la palabra información. "A medida comúnmente utilizada, la información es un término muy elástico", escribió, "y primero habrá que establecer para ella un significado más específico. "El propone pensar en la información "físicamente".

En poco tiempo, había gente para quien el camino de la tecnología de las comunicaciones había saltado directamente desde el tambor parlante para el teléfono móvil, saltándose las etapas intermedias.

Lo más difícil de la tecnología para borrar de nuestras mentes es la escritura. Esto surge en los arboles de la historia, como debe ser, porque la historia comienza con la escritura. La escritura, como tecnología, requiere premeditación y arte especial. El lenguaje no es una tecnología, no importa qué bien desarrollado y eficaz sea. La escritura apareció para extraer conocimiento lejos de la persona, para colocar sus recuerdos almacenados. Cada palabra tiene un origen y una historia que se funde en su vida presente.

Havelock centrado en el proceso de conversión, mentalmente, de una "prosa de la narrativa" a una "prosa de ideas"; organizar la experiencia en términos de categorías en lugar de los acontecimientos, que abarca la disciplina de la abstracción. Él tenía una palabra en la mente para este proceso, y la palabra estaba pensando. Este fue el descubrimiento, no sólo de sí mismo, sino de el auto pensando en efecto, el verdadero comienzo de la conciencia.

Como podemos ver, el hombre siempre ha tratado de innovar y descubrir nuevas maneras de comunicarse a través de diferentes medios. A través del tiempo se ha logrado la forma de digitalizar la información, lo que permite no solo comunicarnos, sino, transmisión de los datos a una distancia mayor sin pérdida de información, dándonos la posibilidad de almacenarlos, desde mi punto de vista es algo con gran valor ya que todos tenemos la necesidad de evolucionar y al  almacenar información a lo largo de la historia, nos permite conocer como es que vamos evolucionando. La información y su almacenamiento, es una necesidad en todos los ámbitos, tanto personal como organizacionalmente.

 

 

 

En mi opinion personal, el mensaje es muy claro, si no hay una buena comunicación no hay nada, en la vida, todo se basa en una buena comunicación, ya que con esto se pueden evitar problemas, incluso guerras, hoy en dia la tecnologia nos permite poder comunicarnos desde cualquier punto y con cualquier persona en el mundo, solo es cuestion de que aprendamos a usar de una manera adecuada las herramientas para comunicarnos.