Você está na página 1de 103

1

Tema 4
Representacin del conocimiento e inferencia
Javier Rodrguez Gonzlez
javi@etsii.ull.es
2
Tipos de conocimiento (I)
Conocimiento declarativo: Coleccin esttica de
hechos, sin determinar cmo sern utilizados, y
que pueden ser representaciones semnticas
basadas en el lenguaje o visuales imgenes
preceptuales.
Conocimiento de entidades: referido a las
caractersticas propias de los objetos o elementos
del mbito que modelamos.
Conocimiento de eventos: Describe la ocurrencia
de sucesos sobre las entidades y tienen un
desarrollo temporal.
Conocimiento procedimental: la cuestin no es
saber el "qu", sino el "cmo", es decir, la manera
mejor para resolver un problema.
Conocimiento a cerca del conocimiento (Meta-
conocimiento): Informacin o conocimiento a
cerca de cmo hacer uso del conocimiento.
3
Tipos de conocimiento (II)
A.-Objetivo (cientfico, experimental, basado en
evidencias, medible, generalizable, consistente...)
B.- Subjetivo (interpretado, difuso, basado en
opiniones, no extrapolable, inconsistente)
Introspectivamente, Johnson-Laird ha propuesto la
existencia de una representacin interna ms
potente, inconsciente, y que sera traducida a
lenguaje natural Con la experiencia, se
automatizan los procesos de razonamiento del
conocimiento procedimental, en un proceso
gradual, con tres fases:
1. Interpretativa.
2. Compilada.
3. Automtica.
4
Fases de utilizacin del conocimiento
Adquisicin.-
Fase importante en la que el conocimiento de un
determinado mbito, es capturado para su
posterior representacin.
Estructuracin.-
Diseo de una estructura de datos que almacena
todas las caractersticas necesarias.
Acceso.-
Forma de alcanzar la informacin que se ha
organizado en la etapa anterior.
Seleccin.-
De todo el conocimiento almacenado hay que
determinar cual se va a utilizar en una fase
determinada.
Razonamiento o inferencia.-
Etapa en la que se trabaja con el conocimiento
para poder obtener (inferir) nuevos resultados que
nos ayuden en la toma de decisiones.
5
Propiedades de la representacin del
conocimiento
mbito.-
La representacin del conocimiento en I.A. Puede
ser sumamente compleja si no acotamos el mbito
de trabajo. Hemos de trabajar en un mbito
reducido y acotado.
Granularidad.-
Debemos decidor cual es la unidad de
representacin con la que vamos a trabajar y
hasta que punto refinaremos nuestra
representacin del conocimiento.
Redundancia.-
Un mismo trozo del conocimiento puede ser
representado dentro de una base de conocimiento
varias veces, de formas diversas.
Modularidad.-
Es conveniente dividir en mdulos el conocimiento
para que el acceso sea mucho ms flexible..
Comprensin.-
Es muy adecuado que el conocimiento sea fcil de
comprender para facilitar las fases de depurado e
implementacin de una base de conocimiento.
6
Desarrollo del conocimiento del experto humano
Estas mismas 3 etapas se denominan en psicologa:
1. Cognitiva: se aprende una descripcin del
procedimiento a realizar
2. Asociativa: se trabaja en un mtodo
3. Autnoma: la habilidad se hace ms rpida y
autnoma
El tiempo necesario para realizar una tarea disminuye con
la prctica. Un experto suele necesitar unos 12-15 aos en
serlo.
El espaciamiento de la prctica favorece el aprendizaje, as
como si existe un feedback
Clave: transformacin de conocimiento declarativo en
procedimental
Existen subetapas en solucin de problemas distintos que
son similares, reforzando y acelerando el aprendizaje
7
Estrategias de los expertos
Uso de reglas del pulgar o heursticas,
Estimacin de probabilidades basndose ms en
comparaciones entre ellas que en datos estadsticos,
probabilsticos formales u obtenidos mediante anlisis
de decisiones.
Generalizaciones o abstracciones de hechos que
encuentra en el proceso de razonamiento.
Reconocer patrones que permitan plantear
rpidamente hiptesis diagnsticas.
Aplicar acciones conjuntas preparadas de antemano
Uso efectivo de tests costosos o pruebas
complementarias
Razonamiento causal
Relaciones semnticas entre trminos relevantes
Una amplia experiencia de casos previamente vistos
Conocimiento de los libros y artculos ms relevantes
sobre el rea en los ltimos aos
8
Adquisicin de conocimiento. Mtodos
Ingeniero del Conocimiento
Inferencia:
Con 1 experto:
Entrevistas abiertas, no
estructuradas
Entrevistas estructuradas
Con varios expertos (Delphi, RAND)
Anlisis de protocolo
Emparrillado
Extraccin:
Documentacin
Anlisis de textos
Cuestionarios
Computadora (supervisado o no supervisado):
Anlisis automatizado de textos (WWW, Bases de
datos)
Induccin
Mtodos estadsticos y metaanlisis
Mtodos lgicos
Tcnicas de aprendizaje por clustering,
analoga,...
Redes neuronales
Razonamiento basado en casos
Descubrimiento cientfico
9
Fuentes de conocimiento
Libros
Manuales
Audio y video
WWW
Documentos legales
Sistemas on-line
Documentacin informal (notas, memos)
Registros internos (historias clnicas, protocolos,
notas)
Presentaciones (transparencias)
Publicaciones (journals)
Datos de investigacin (ensayos clnicos)
Visitas al centro
Humanos: expertos, directivos, empleados, usuarios
10
Proceso de adquisicin
Conocimiento general ----------> especfico
Conocimiento declarativo ---> procedimental
Especificacin de requisitos del sistema
Ingeniero del Conocimiento: Captura del conocimiento
del experto humano
Tareas del Ingeniero del Conocimiento
Comprobar la viabilidad del sistema
Captar conocimiento general del dominio
Estudio de la documentacin:
Libros
Artculos de revisin
Memos y notas sobre el tema
Inferencia del experto
11
Investigacin del dominio y tema
Superficial: cuestiones generales
Profunda:
Entendimiento general de la tarea Metas
principales?
Estudio de la solucin de problemas
Proceso de razonamiento del experto
Datos de entrada y salida del sistema
Modelo conceptual
Documentacin
Despus de hablar con directivos y usuarios
Libros, manuales y notas
Ayuda de un tcnico en el rea para:
Identificar conceptos y su significado
Posibles errores o divergencias
Recientes descubrimientos
Detalles importantes poco destacados
Puntos donde no hay acuerdos universales
12
Trabajo de inferencia
Preparacin de la sesin
Contenido: rea
Guin
Tcnicas a utilizar
Sesin:
Repaso de cuestiones
Objetivos
Preguntas
Ultimas cuestiones del experto
Registro en audio o video
Transcripcin de la sesin en texto.
Anlisis (conocimiento, heursticas)
Evaluacin (finalizacin, refinamiento)
Colaboracin amistosa
Interrupciones?
Duracin de 1 hora
Buscar inconsistencias
Lugar tranquilo (si puede ser, en el trabajo)
Pedir documentacin de puntos oscuros
13
Trabajo de inferencia
Entrevistas
Abiertas
Estructuradas
Observacin de tareas habituales
Incidentes crticos
Clasificacin de conceptos
Cuestionarios
Anlisis de protocolos
Emparrillado
14
Entrevistas
Mtodo sencillo y eficaz: enorme caudal de conocimiento
Abierta
Planificada pero espontnea
Capturar el conocimiento declarativo y procedimental
Fundamental:
Estrategias de razonamiento
Heursticas del experto
Riesgo: el experto se va por las ramas
Descripcin lgica y temporal de lo que hace el
experto
Aclaracin de terminologa
Diferencias con otros problemas
Tipo de datos e informacin
Divisin en el problema (protocolos)
Entrevistas estructuradas
Cuestiones bien programadas (despus de otras
sesiones)
Se busca descubrir conceptos, relaciones e
inferencias
Hiptesis de entrada y estrategias de razonamiento
Hechos importantes (datos: tipos, rangos,
dependencias)
15
Observacin de tareas habituales
Ver al experto en el trabajo
Lleva tiempo y es costoso
El experto se siente observado
til contar con el experto y sus alumnos
Extremo: casos crticos complejos (reales o
imaginarios)
Cuestionarios
Basados en encuestas (pblicas o privadas)
Basados en informacin de otros expertos
Basados en trabajos previos
El experto puede estar slo y relajado
Fichas, tarjetas
16
Teora de la Construccin Personal (Emparrillado)
Desarrollada por Kelly en 1955
Particularmente til para capturar modelos mentales que el
experto tiene sobre el mundo (con imgenes)
Segn esta teora todos tenemos modelos mentales de
sucesos del pasado con los que anticipamos el futuro
Estos modelos intentan capturar las realidades que
componen nuestro mundo
Proceso de feedback continuo
Modelo
Prediccin
Situaciones pasado
17
Emparrillado (Shaw, 1980)
Mtodo de clasificacin de datos en 2 direcciones
Referencias cruzadas entre observaciones personales
del mundo (elementos o entidades) y sus
representaciones o clasificaciones (caractersticas o
atributos)
Las entidades pueden ser elementos clave en el
dominio escogido (tipos de coches, enfermedades,
pozos de petrleo, negocios financieros, etc.)
Los atributos expresan la visin del experto de las
distinciones que observa en el dominio
Elemento 4
Elemento 3
Elemento 2
Elemento 1
A4 A3 A2 A1
18
Mtodo
Dada una situacin se escogen objetos que sean
relevantes
Se elaboran distinciones bipolares que destacan las
diferencias que el experto tiene en su modelo mental
Resultado: un poderoso modelo mental (pero
incompleto-lenguaje)
Ayuda al experto a refinar su propio modelo
Se puede completar con induccin
Desde un punto de vista prctico, es una aplicacin de
las entidades o elementos sobre los atributos o
caractersticas
Varios mtpdps: uno muy empleado consiste en dar
valores (v) de 1 a n sobre caractersticas bipolares
19
Fases
1. Identificacin de entidades-elementos
2.Identificacin de caractersticas-atributos
3. Diseo
4. Formalizacin
5. Anlisis
Identificacin de elementos y caractersticas
Elementos o entidades del modelo mental que el
experto tiene sobre un dominio del mundo real
Claramente separados y no se solapan (ej:
enfermedades)
Representativos del dominio
Caractersticas o atributos: distinciones de cada
entidad del modelo mental del experto
Se cogen triadas y se pide al experto que haga
distinciones que diferencias uno de ellos de los
otros dos
Mediante fichas que se clasifican por grupos
Directamente
20
Anlisis de resultados
Se hace una valoracin general del rbol
Se distinguen grupos en el rbol y se ven las
separaciones (para elementos y caractersticas)
Se ven las relaciones errneas:
Separacin
Proximidad
Se vuelve a plantear el modelo al experto para que lo
analice o refine
Ventajas y desventajas
Ventajas:
El experto reflexiona sobre el problema
Representacin grfica de un modelo mental
abstracto
Asociaciones no consideradas
Replentear el problema ---> Refinamiento
Inconvenientes:
Valores subjetivos
Difcil capturar el conocimiento profundo
Modelos difciles de comprender fuera de la
experiencia del experto
Compleja
21
Adquisicin de varios expertos
Problemas de un nico experto:
Tiempo disponible
Incompatibilidad de caracteres y razonamiento
Sesgos
Lnea nica de razonamiento
No hay un conocimiento del dominio
Falta de colaboracin
Solucin: varios expertos
Dificultades del uso de grupos de expertos
Aumenta la complejidad del proceso
Razonamientos dispares
Falta de comunicacin
Consenso imposible en ocasiones
Afn de liderazgo
Sesiones costosas y limitadas en el tiempo
Inconsistencias
22
Ventajas del uso de grupos de expertos
Base de conocimientos completa
Heursticas de zonas apartadas del ncleo dek
sistema o dominio
Se evitan sesgos
Fiabilidad de contenidos
Surgen nuevos conocimientos en las discusiones
Sinergia---> efecto positivo
Tcnicas para grupos de expertos
Adaptaciones del emparrillado
Unificacin de valores
Comparacin de rboles
Tormenta de ideas (brainstorming)
Tcnica nominal de grupo
Entrevistas de grupo
Delphi (variacin: RAND)
23
Tormenta de ideas (Brainstorming)
Origen: radares (Blackett, 1938), proyecto Manhattan
Etapas:
Ideas individuales que se plantean al grupo
Discusin, aportando comentarios
Adopcin de ideas ajenas y desarrollo
Seleccin de las mejores (segn tiempo, costes,
tcnicas, disponibilidad)
24
Entrevistas de grupo
Similar a las individuales estructuradas
Un coordinador dirige con:
Reglas de funcionamiento definidas
Discusin dirigida
Sumario de respuestas
Ventajas:
Efecto potenciador
Estmulo de participacin
Libertad de expresin
Consenso
Mtodo Delphi
Prediccin de situaciones futuras basadas en las
opiniones de un grupo de expertos
Grupo de expertos con moderador
Respuestas annimas
Retroalimentacin de las respuestas
Expertos representativos
Se utiliza cada vez ms, en todas las reas y dominios
25
Adquisicin de conocimientos cooperativos
Mtodo Delphi
Especialista-consultor Experto
Definici Definici n de fines y n de fines y
elaboraci elaboraci n n
del cuestionario del cuestionario
Validaci Validaci n del cuestionario n del cuestionario
Incorporaci Incorporaci n de nuevas n de nuevas
cuestiones cuestiones
Refinamiento del Refinamiento del
cuestionario cuestionario
Respuestas al Respuestas al
cuestionario cuestionario
Tabulaci Tabulaci n y an n y an lisis lisis
de resultados y 2 de resultados y 2
circulaci circulaci n n
Respuestas y Respuestas y
argumentaciones argumentaciones
Tabulaci Tabulaci n y an n y an lisis lisis
de resultados y 3 de resultados y 3
circulaci circulaci n n
Respuestas y Respuestas y
argumentaciones argumentaciones
finales finales
Tabulaci Tabulaci n y n y
an an lisis lisis
de resultados de resultados
finales finales
26
Mtodo RAND
Modificacin del mtodo Delphi
Creado en la RAND Corporation (EE.UU.)
Papel clave: moderador
Combinacin de conocimientos publicados y
opiniones de expertos
Aplicado en multitud de casos
Cmo se dirige el panel
Revisin del proceso desde el principio
Estimular implicacin de panelistas
Mantenimiento del inters
Control del acceso de opiniones
Agenda con tareas
27
Mtodo
Revisin de la literatura
Desarrollo de listas de criterios o indicaciones
Definicin de objetivos
Formacin del panel de expertos
2 puntuaciones (a veces ms)
Se elaboran tablas, documentos
Reunin del panel
Varios das
Se explican objetivos, mtodos, agenda
El lder revisa las puntuaciones
Discusin con panelistas
reas de acuerdo y desacuerdo
Identificacin de las indicaciones y cuestiones a
debatir y puntuar
Se punta de nuevo
Segunda reunin, con debate
28
Nuevos mtodos de anlisis de informacin
Minera de Datos.
DATA MINING
TEXT MINING
WEB MINING
29
Descubrimiento de Conocimientos en Bases de Datos
(Knowledge Discovery in Databases, KDD)
El KDD es , a nivel abstracto, el rea relacionada con el
desarrollo de teoras, mtodos, tcnicas y herramientas
para extraer conocimientos de bases de datos
Se pretende analizar datos de bajo nivel para hacerlos:
Compactos (crear informes)
Abstractos (con modelos que permitan manejar
ms datos)
Utiles (por ejemplo, modelos predictivos)
Tradicionalmente se ha hecho de manera manual en
todas las reas del conocimiento
Cuando el nmero de datos crece se hace imposible
(por ejemplo, publicaciones cientficas de cualquier
rea)
30
Data warehouse (almacn de datos)
Es la creacin de una vista lgica unificada de los
datos, an cuando stos estn dispersos entre varias
bases de datos fsicas, para as disponer de un nico
modelo de trabajo de los datos de la organizacin.
Es un repositorio lgico central que almacena datos
de una organizacin, con estas caractersticas:
Organizado por temas
Integracin (consistentes en nombres, unidades,
etc.)
Dependiente del tiempo (los datos representan un
tiempo, no se actualizan)
No es voltil (no se borran datos, se accede a
ellos)
31
El proceso KDD
Proceso interactivo e iterativo, con varios pasos:
Entendimiento del dominio de aplicacin
Creacin de un conjunto de datos diana (seleccin
de un conjunto de datos para su estudio)
Preprocesado y limpieza de datos (eliminar ruido,
estrategias para manejar datos perdidos, etc.)
Reduccin y proyeccin de los datos (seleccin de
variables a considerar)
Seleccin del modelo e hiptesis (los algoritmos
que se van a utilizar)
Minera de datos: bsqueda de patrones mediante
mtodos como clustering, regresin o clasificacin
Interpretacin de los patrones descubiertos
Actuacin sobre los conocimientos descubiertos
(uso prctico)
32
Minera de datos
Tipos de metas:
Verificacin: comprobar una hiptesis planteada
por el usuario
Descubrimiento: el sistema encuentra nuevos
conocimientos de forma autnoma
Predictivo: pronstico de comportamiento futuro
de variables
Tipos de Minera de Datos
De consulta e informe: utilizacin de herramientas para
hacer consultas mediante SQL y presentacin de los
resultados mediante tablas, diagramas o grficos. Util para
el modelo de minera de verificacin
De Inteligencia Artificial:
Arboles de decisin
Redes Neuronales
Clustering
Logica difusa
Tcnicas de anlisis multidimensional. Se construyen
cubos con n dimensiones que permiten obtener vistas
bidimensionales (por ejemplo, ventas-regin)
33
Representacin Conocimiento
Introduccin.
Representar el conocimiento de un experto humano es
una tarea compleja como hemos podido observar. Muchas
veces el ingeniero del conocimiento se enfrenta a
problemas que surgen a la hora de representar la certeza
de la informacin y mas cuando intervienen criterios
humanos. Cuando no se pueden aplicar valores de certeza
absoluta nos enfrentamos a la representacin de la
incertidumbre en el conocimiento.
Los sistemas de I.A. Persiguen trabajar con declaraciones
precisas con gran incertidumbre en lugar de afirmaciones
imprecisas con mucha certeza. Ej:
Maana va a llover. Se trata de una declaracin precisa que
contiene un grado alto de incertidumbre.
Algn da llover. Se trata de una declaracin muy difusa
con un alto grado de certeza.
Los sistemas de I.A basados en reglas. que manipulan la
incertidumbre como elemento del conocimiento, lo hacen
aadiendo coeficientes de certeza a cada elemento de
conocimiento:
Esta nublado Va a llover C(0.6)
Esta nublado C(0.7)
C(?) Va a llover
34
Fuentes de incertidumbre.
Situaciones en las que el contenido del propio
conocimiento es en si aleatorio, por ejemplo la
distribucin de alturas de las personas.
Entendimiento/comprensin incorrecta del dominio
Cuando el conocimiento de un mbito, por algn
motivo esta incompleto, aunque en condiciones
normales esto no ocurre.
Trminos involucrados muy vagos (grande, hermosa,
dolor)
Realizacin de algn tipo de abstraccin
Hay situaciones en las que el conocimiento se debe al
buen olfato del observador, no disponemos de un
conocimiento slido.
Naturaleza aleatoria de los mecanismos que rigen el
comportamiento del dominio
Relaciones en el dominio de naturaleza no
determinstica (ej: enfermedades y sntomas). Cuando
el conocimiento viene expresado en trminos difusos
de por si. Por ejemplo hechos difusos, la pelcula era
divertida
Situaciones en las que el canal de comunicacin no es
del todo fiable, por diversos motivos.
35
Modelos probabilsticos. Inferencia bayesiana
Mediante lgica:
Si hacemos uso de la teora de probabilidades bsica
y del razonamiento bsico de la lgica formal MODUS
PONENS, podemos interpretar la certeza de un
hecho o regla como la probabilidad de que esta se
presente.El conocimiento ha de ser expresado
mediante proposiciones o predicados y reglas.
.
Esta es la representacin de un proceso de inferencia
haciendo uso de modus ponens que representa una
regla tipo antecedente (evidencia) implica consecuente
(hiptesis). La representacin de la certeza de cada
elemento del conocimiento (reglas y hechos) ha de
tener asociado un valor probabilstico o pseudo-
probalilstico.
Hemos de tratar con cuidado la probabilidad asignada
a un hecho, pues no se trata realmente de una
probabilidad como tal, limite de la frecuencia de
ocurrencia de un suceso, sino de una estimacin
subjetiva. Mientras que las reglas si vienen estimadas
por la experiencia repetida.
) (
) (
) / (
h p
e p
e h p
h
e
h e

36
Modelos probabilsticos. Inferencia bayesiana
. Donde p(e) es la pseudo-probabilidad real de la
evidencia y p(h) es la probabilidad a posteriori de la
hiptesis, que es distinta p(h) o probabilidad a priori.
El cometido es determina p(h) y puede que las
evidencias no sean del todo conocidas y slo
tengamos una estimacin subjetiva que vamos a
traducir en probabilidad.
Y para conocer la probabilidad p(h/e) hemos de aplicar
el Teorema de Bayes.
)) ( 1 ( ) / ( ) ( ) / ( ) (
) ( ) / ( ) ( ) / ( ) (
e p e h p e p e h p h p
e p e h p e p e h p h p

)) ( 1 ( * )) / ( 1 ( ) ( * )) / ( 1 (
) ( * )) / ( 1 (
) / (
)) ( 1 ( * ) / ( ) ( * ) / (
) ( * ) / (
) / (
h p h e p h p h e p
h p h e p
e h p
h p h e p h p h e p
h p h e p
e h p
+

=
+
=
37
Modelos probabilsticos. Inferencia bayesiana
Veamos un ejemplo de inferencia Bayesiana.
Supongamos que queremos construir un sistema de
inferencia difuso basado en asignaciones de
probabilidades, de forma que las hiptesis son
enfermedades, (E
1,
E
2,
E
3......
E
n
) y los hechos , son los
posibles sntomas que presentan los pacientes (S
1,
S
2
S
3....
S
m
).
Supondremos adems que: a) Las enfermedades son
sucesos independientes y b( que las enfermedades
formas un espacio maestral completo, esto es:
La informacin que el sistema contiene
inicialmente, adquirida en base a la experiencia de uno
o varios expertos humanos, se representa haciendo
uso de hechos y reglas. Los hechos y las reglas (base
de conocimiento) se utilizaran para poder realizar un
diagnostico, esto es inferir conclusiones.
1 ) ( )
0 ) ( )
1
=
=

=
i
m
i
j i
E p b
j i E E p a I
) ( : Hechos
) / ( : Reglas
j j
j k j k
E p E
E S p E S

38
Modelos probabilsticos. Inferencia bayesiana
Donde:
p(S
k
/E
j
) = Probabilidad de presentar el sntoma S
k
padeciendo la enfermedad E
j
p(E
j
) = Probabilidad a priori de que un enfermo
padezca la enfermedad E
j
El sistema de diagnostico basado en la inferencia
bayesiana, tendr que determinar la probabilidad a
posterior. P(E
j
), en base a los sntomas que el
enfermo presente. Esto sntomas han de ser
calculados en funcin a una estimacin subjetiva o
pseudo-probabilidad p(S
k
). El sistema haciendo uso
de una estrategia de inferencia determinada podr
obtener resultados haciendo uso de la expresin:
)) ( 1 ( * )) / ( 1 ( ) ( * )) / ( 1 (
) ( * )) / ( 1 (
) / (
)) ( 1 ( * ) / ( ) ( * ) / (
) ( * ) / (
) / (
)) ( 1 ( ) / ( ) ( ) / ( ) (
j j k j j k
j j k
k j
j j k j j k
j j k
k j
k k j k k j j
E p E S p E p E S p
E p E S p
S E p
E p E S p E p E S p
E p E S p
S E p
S p S E p S p S E p E p
+

=
+
=
+ =
39
Modelos probabilsticos. Inferencia bayesiana
Luego el sistema para obtener una conclusin deber
obtener informacin a cerca de la probabilidad
(pseudo- probabilidad ) de presentar un determinado
sntoma y en funcin de esta, inferir alguna conclusin,
esto es la probabilidad a posterior de que el paciente
presente una determinada enfermedad.
Una de las dificultades que presenta el sistema es
determinar cual o cuales son los sntomas mas
significativos. Cules son los sntomas que se van a
evaluar en primer lugar? Varias opciones:
1. Se evalan de uno en uno y en un orden fijo
(explosin combinatoria)
2. Se establece una jerarqua de sntomas y se evalan
en primer orden aquellos que se consideran ms
relevantes. Lo que interesa es que dicha jerarqua no
sea fija sino que se altere guiada por los resultados
obtenidos.
3. Podemos cual es la probabilidad a priori de que un
sntoma se presente asociado con el conjunto de
enfermedades que podemos diagnosticar. Podemos
calcular dicha probabilidad haciendo uso del teorema
de probabilidad total y elegir aquel sntoma que tiene
mayor prob. a priori de estar ligado a algn cuadro
medico.
)) ( ( ) (
) ( * ) / ( ) (
.. 1
1
k
n k
elegido
i i k
m
i
k
S p MAX S p
E p E S p S p
=
=
=
=

40
Modelos probabilsticos. Inferencia bayesiana.
El volumen de la base de conocimiento puede ser tal que
las bsquedas de informacin sean tareas complejas y
lentas. En un sistema de inferencia bayesiano se pueden
introducir estados intermedios que mejoren el rendimiento.
Para introducir estados intermedios, no se establece una
relacin directa entre sntomas y enfermedades, sino que
la evaluacin de los sntomas conducen a estados
patolgicos intermedios. Quedando el esquema de
funcionamiento de la siguiente forma.

=
) ( ), / (
) ( ), / (
) / ( * ) / ( ) / (
1
q q k
j j q
q k
j q
k q q j
r
q
k j
I p I S p
E p E I p
I S
E I
S I p I E p S E p
S
1
S
n-1
S
n
I
1
I
r
E
1
E
i
E
m
41
Representacin Conocimiento. Redes Bayesianas
Definicin
Una Red Bayesiana es un grafo dirigido acclico
(GDA), pretende modelizar el conocimiento bajo
incertidumbre que caracteriza el razonamiento
humano. Donde cada nodo representa una variable
aleatoria y los arcos entre los nodos representan
dependencias probabilsticas entre las variables. Cada
nodo contiene los estados de la variable que
representa y una tabla de probabilidad condicional
(CPT). La CPT de un nodo contiene las probabilidades
de que el nodo est en un estado especfico dados los
estados de sus padres.Se representar el problema
del dominio como un conjunto de variables aleatorias
con dominios discretos y predefinidos. De esta forma,
cada variable aleatoria tendr asociada una
distribucin deprobabilidad, que asigna
probabilidades a cada uno de los posibles valores de
cada variable. Adems, existir informacin acerca de
cmo influyen unas variables en otras, estableciendo
relaciones de causa-efecto entre ellas. Por este
motivo, las redes bayesianas tambin son conocidas
como redes causales.
42
Representacin Conocimiento. Redes Bayesianas
Ejemplo. Cosecha
Consideraremos las variables aleatorias que describen un
problema relacionado con el estudio de la productividad de un
terreno agrcola. En este contexto contaremos con dos variables
aleatorias:
C: lluvias cadas sobre el terreno. Pueden ser nulas, medias o altas
E: calidad de la cosecha. Puede ser mala, media, buena o excelente.
El experto considera que existe una relacin de dependencia entre
estas dos variables. En concreto, estima que una de las causas de
la calidad de una cosecha se encuentra en la cantidad de lluvia
cada sobre este. El fragmento de red bayesiana que representara
este problema sera de la siguiente forma:
{nulas, medias, altas}
Causa
Lluvias
(
(
(

=
0 . 0 2 . 0 4 . 0 4 . 0
1 . 0 2 . 0 6 . 0 1 . 0
0 . 0 0 . 0 2 . 0 8 . 0
C E
M
Efecto
Cosecha
{mala, medias, buena, excelente}
43
Representacin Conocimiento. Redes Bayesianas
Para expresar el conocimiento del experto acerca del
dominio, tendremos que representar la informacin acerca
de los elementos de la red: nodos y arcos.
1) Para los nodos, representaremos el conocimiento del
experto como distribuciones que asignan una probabilidad a
cada uno de los posibles valores que puede tomar la
variable. A este vector fila lo llamaremos credibilidad del
nodo. Si suponemos, por ejemplo, que la cantidad de
lluvias puede considerarse con toda certeza como nula,
anotaramos la variable de la siguiente manera:
Cr(C)=[1 0 0]
Si el conocimiento del experto no se pudiera establecer de
una manera tan ntida, expresaramos la incertidumbre con
valores distintos de 0 o 1:
Cr(C)=[0 02 08]
De esta forma estaramos expresando que las lluvias
cadas pueden considerarse con probabilidad 02 como
medias y con probabilidad 08 como altas. Como ltimo
caso, veamos cmo se representara la absoluta ignorancia
acerca de un hecho: asignando probabilidades idnticas a
todos los posibles valores de la distribucin, hecho que se
denomina suposicin de mxima incertidumbre:
Cr(C)=[1/3 1/3 1/3]
44
Representacin Conocimiento. Redes Bayesianas
2) Los arcos de la red estarn representados mediante
matrices de probabilidad condicionada, en las que se
hace explcito el condicionamiento que hacen los valores
de la causa sobre los valores del efecto en la forma
P(Efecto/Causa). Para el mismo ejemplo anterior, una
posible matriz sera la siguiente:
Donde el valor subrayado representara la probabilidad
condicionada P(E=media/C=altas). En este ejemplo
podemos observar que la relacin entre lluvias cadas y
calidad de la cosecha no es lineal, puesto que la mejor
calidad de la cosecha se da cuando las lluvias son medias,
descendiendo cuando la cantidad de lluvia se hace
demasiado pequea o demasiado grande. En esta
capacidad de representar relaciones no lineales reside una
de las ventajas de la utilizacin de redes bayesianas frente
a otros formalismos.
(
(
(

=
0 . 0 2 . 0 4 . 0 4 . 0
1 . 0 2 . 0 6 . 0 1 . 0
0 . 0 0 . 0 2 . 0 8 . 0
C E
M
45
Representacin Conocimiento. Redes Bayesianas
Efectos con ms de una causa
En general, podemos hablar de que los nodos de una red pueden
tener una o ms causas y a su vez, ser causa de uno o ms efectos.
En el caso de un efecto con ms de una causa, cada matriz de
probabilidad condicionada representar la relacin de todas las
causas con el efecto dado. En general, tendremos el siguiente
esquema:
La matriz de probabilidades condicionadas relativa a cada
efecto tendra las siguientes propiedades:
- Tantas filas como posibles valores combinados tengan las
causas.
- Tantas columnas como posibles valores tiene el efecto.
- La suma de los elementos de cada fila ser 1.
{a
1
,a
2
,....,a
n
}
{b
1
,b
2
,....,b
n
}
A B
E
{e
1
,e
2
,....,e
n
}
46
Representacin Conocimiento. Redes Bayesianas
(
(
(
(
(

=
) / ( . . . ) / ( ) / (
. .......... .. . .......... .......... ......... ....... .. ...
) / ( ..... . . ) / ( ) / (
) / ( ..... . . ) / ( ) / (
2 1
2 1 2 1 2 2 1 1
1 1 1 1 2 1 1 1
,
q m n q m q m
n
n
B A
E
b a e p b a e p b a e p
b a e p b a e p b a e p
b a e p b a e p b a e p
M
Si hacemos usamos la notacin P(e
i
/a
j
b
k
) para representar
P(E=e
i
/A=a
j
,B=b
k
), el significado de cada uno de los elementos
ser:
Proceso de inferencia
Su base terica principal es la probabilidad condicionada y los
teorema de Bayes y de la probabilidad total. En una red
bayesiana se pueden realizar dos tipos de inferencia:
1) Inferencia causal, deductiva o descendente
Conocemos la distribucin de probabilidad de algunos de los
nodos causa y queremos inferir la distribucin de alguno de los
nodo efecto. La pregunta es: dado P(C), cul es el valor Ze
P(E/C)? Esta inferencia se representar a partir de ahora
mediante la letra griega
2) Inferencia de diagnstico, inductiva o ascendente:
Conocemos la distribucin de probabilidad de alguno de los
nodos efecto y queremos inferir la distribucin de algn nodo
causa. La pregunta es: dado P(E), cul es el valor de P(C/E)?
Esta inferencia se representar a partir de ahora mediante la
letra griega .
47
Representacin Conocimiento. Redes Bayesianas
Ejemplo de inferencia:
Volviendo al ejemplo de la lluvia y la calidad de la cosecha,
supongamos que conocemos la distribucin de probabilidad de
la causa es de seguridad total de que las lluvias han sido altas y
queremos conocer cul es la probabilidad de que la cosecha
sea mala, es decir: Dado Cr(C)=[0 0 1], Valor de P(E=mala)?
Simplemente mirando la matriz de probabilidad condicionada,
podemos hacer una inferencia descendente para calcular la
distribucin de probabilidad de la calidad de la cosecha:
P(E/C=altas)=[04 04 02 0]
Es decir, hemos seleccionado la tercera fila de la matriz, que es
la que corresponde al valor de la causa C=altas. Podramos
inferir que el valor pedido es P(E=mala/C=altas)=04, primer
valor del vector fila.
El modelo de Kim y Pearl
El modelo de Kim y Pearl es una sistematizacin de ambos
mtodos de inferencia, ascendente y descendente, sobre un
subconjunto de las redes bayesianas. Este mtodo slo puede
aplicarse a las redes que tengan estructura de polirbol. Un
polirbol se define mediante las siguientes propiedades:
1- Es un grafo dirigido acclico
2- No existe ms de un camino entre cada pareja de nodos del
rbol
48
Representacin Conocimiento. Redes Bayesianas
49
Representacin Conocimiento. Redes Bayesianas
Ejemplo
Supongamos el siguiente caso prctico: disponemos de una
lmpara (L) que est conectada a una batera (B). El estado de
la lmpara (on, off) est causado por la carga de la batera (ok,
semigastada, gastada). Tenemos tambin dos sensores S
1
y S
2
que captan la luz de la lmpara y se activan cuando sta est
encendida. Como punto de partida, sabemos que el estado de la
carga de la batera est definido por la distribucin de
probabilidad [06 03 01]. Las matrices de probabilidad
condicionada son las indicadas en la figura siguiente:
50
Representacin Conocimiento. Redes Bayesianas
Ejemplo. Apple Jack
Un da Apple Jack descubre que su mejor rbol de
manzanas est perdiendo sus hojas. Entonces, quiere
saber qu est pasando. l sabe que si el rbol est seco
(causado por una sequa) es muy comn que pierda sus
hojas. Por el otro lado, perder las hojas puede ser un
indicio de que el rbol est enfermo.
51
Representacin Conocimiento. Redes Bayesianas
Continuacin Ejemplo. Apple Jack
Cuando existe una dependencia causal de un nodo A a un nodo B,
se espera que cuando A est en un cierto estado esto tiene un
impacto en el estado de B.
En el ejemplo, existe un vnculo causal de Sick a Loses porque
cuando un rbol est enfermo puede causar que pierda las hojas.
52
Representacin Conocimiento. Redes Bayesianas
Ejemplo. Robot
Un robot es capaz de levantar una bandeja si la bandeja
es liviana y si las bateras de la fuente de energa del robot
estn cargadas. Si estas condiciones se satisfacen,
entonces cuando el robot trata de levantar la bandeja,
mueve sus brazos. Se determina si la batera est cargada
mediante un medidor.
Variables
B = batera cargada
L = bandeja liviana
M = brazos del robot se mueven
G = medidor indica que la
batera est cargada
Estados de las variables
Verdadero o Falso
Nodos: conceptos relevantes al problema
Arcos: influencia o dependencia entre estos conceptos
B
L
G M
53
Representacin Conocimiento. Redes Bayesianas
P(B) = 0.95
P(L) = 0.7
B
L
G M
P(M/B,L) = 0.9
P(M/B,L) = 0.05
P(M/B,L) = 0.0
P(M/B,L) = 0.0
P(G/B) = 0.95
P(G/B) = 0.1
54
Representacin Conocimiento. Plantillas
Mediante Plantillas (frames)
Estructura de datos apropiada para
representar una situacin estereotpica.
Representa un objeto o una situacin
describiendo los atributos que posee.
Estn formadas por:
Nombre
Campos de informacin (slots), donde cada slot
puede contener varios enlaces.
Enlaces, que pueden ser:
Valores.
Procedimientos (demons).
Las plantillas representan conocimiento
mientras que las bases de datos representan
datos.
Nombre del frame
Canario
Clase
Pajaro
Slots Enlaces Valor
Rango
{Amarillo,Verde,Azul}
Valor
Verde
Color
Por
defecto
Amarillo
Come Valor
Alpiste
Numero de alas Valor
3
Propiedades
Hambriento Valor
Desconocido

55
Representacin Conocimiento. Plantillas
Ventajas
Facilidad de proceso guiado por las
expectativas (mediante los demons).
Conocimiento ms estructurado que en una
red asociativa.
Las plantillas pueden estar estructuradas para
que puedan determinar su propia aplicabilidad
en diversas situaciones y sugerir otras
plantillas apropiadas.
Se pueden almacenar fcilmente en las
ranuras valores dinmicos.
Desventajas
Dificultad de representar objetos que se alejen
de los estereotipos.
No tienen la posibilidad de acomodarse a
situaciones u objetos nuevos.
Dificultad para describir conocimiento
heurstico (ms fcil de representar con
reglas)
56
Representacin Conocimiento. Objetos
Son similares a las plantillas. Ambos:
Agrupan conocimiento asociado
Soportan herencia, abstraccin y el concepto
de procedimientos agregados.
Difieren de las plantillas en:
En las plantillas, a los programas y los datos
se los trata como dos entidades relacionadas
separadas, en cambio en los objetos se crea
una fuerte unidad entre mtodos y datos.
Los demons solo sirven para computar valores
para las ranuras o mantener la integridad en
cambio los mtodos de los objetos
proporcionan cualquier tipo de computacin
requerida soportando adems
encapsulamiento y polimorfismo.
NOMBRE
OBJETO
Limpiador Izquierdo
UN-TIPO-DE Limpiador
ATRIBUTOS Hecho de metal y caucho
Longitud: 14 pulgadas
Color: negro y plateado
Localizacin: inferior izquierda
Funcin: remover humedad de parabrisa
OPERACIONES Activado: se mueve en arco sobre el parabrisa
repetidamente de izquierda a derecha
Desactivado: se mueve a posicin de reposo

57
Representacin Conocimiento. Objetos
Un objeto se define como una coleccin de
informacin representando una entidad del mundo
real y una descripcin de cmo se ha de manipular
esa informacin (los mtodos).
La relacin entre los objetos viene definida por los
mensajes.
Ventajas
Abstraccin, encapsulamiento, herencia,
polimorfismo.
Reutilizacin de cdigo.
Mayor facilidad para trabajar con sistemas
grandes.
Desventajas
Dificultad de manejar objetos que se alejan
demasiado de la norma.
Dificultad para manejar situaciones que no
han sido encontradas previamente.
58
Representacin Conocimiento. Redes asociativas
Las redes asociativas se caracterizan por
representar el conocimiento en forma grfica.
Agrupan una porcin de conocimiento en dos
partes: objetos y relaciones entre objetos.
Los objetos se denominan tambin nodos
(elementos del conocimiento) y las relaciones
entre nodos se denominan enlaces o arcos.
Cada nodo y cada enlace en una red semntica,
deben estar asociados con objetos descriptivos.
Son muy apropiadas para representar
conocimiento de naturaleza jerrquica. Su
concepcin se basa en la asociacin de
conocimientos que realiza la memoria humana.
59
Representacin Conocimiento. Redes asociativas
Ventajas.
Declaracin de asociaciones explicita.
El tiempo de acceso de relaciones de hechos
particulares es reducido.
Desventajas.
No existe una interpretacin normalizada de
una red.
La dificultad de interpretacin deriva en
inferencias invlidas.
La exploracin de una red asociativa puede
derivar en una explosin combinatoria del
nmero de relaciones.
60
Representacin Conocimiento. Redes asociativas
EsUN
Empleados Persona
Dirige
Tom
Pertenece
EsUN
John
Pertenece
Director de
Aqu se expresa que John pertenece al grupo de los
empleados que adems es una persona. Que Tom es el
director de John y que los que dirigen son personas ?
61
Representacin Conocimiento. Redes asociativas
EsUN
Empleados Persona
Dirige
Tom
Pertenece
Golpe
John
Pertenece
Objeto
EsUN
Director de
Se representa la accin John golpeo a su director
Pertenece
Accion1
Agente
62
Representacin Conocimiento. Fuzzy Logic
La lgica difusa asocia incertidumbre a la estructura de un
conjunto de datos (Zadeh, 1965). Los elementos de un
conjunto difuso son pares ordenados que indican el valor del
elemento y su grado de pertenencia. Para un conjunto difuso
A={(x, u
A
(x)) / x X }, se tiene que el elemento x pertenece al
conjunto A con un grado de pertenencia u
A
(x), funcion de
pertenecia, que puede variar entre 0 y 1. Por lo tanto, una
variable puede ser caracterizada, por diferentes valores
lingsticos, cada uno de los cuales representa un conjunto
difuso.
Por ejemplo, la velocidad puede ser caracterizada por valores
lingsticos como "Bajo", "Medio" y "Alto", que representan
"una velocidad aproximadamente menor que 40 km/h", "una
velocidad cercana a 55 km/h y "una velocidad sobre 70 km/h
aprox." respectivamente. Estos trminos se asocian a
conjuntos difusos con funciones de pertenencia como las
mostradas en la siguiente figura.
63
Representacin Conocimiento. Fuzzy Logic
Veamos un ejemplo:
Tmese un individuo x cuya edad sea de 20 aos. Como se
puede observar en la figura, pertenece al Conjunto Difuso
"Joven" y al Conjunto Difuso "Maduro". Se puede observar
que posee un grado de pertenencia
A
(x) de 0.6 para el
Conjunto Difuso "Joven" y un grado de 0.4 para el Conjunto
Difuso "Maduro"; tambin posee un grado de 0 para "Viejo".
De este ejemplo se puede deducir que un elemento puede
pertenecer a varios Conjuntos Difusos a la vez aunque con
distinto grado. As, nuestro individuo x tiene un grado de
pertenencia mayor al conjunto "Joven " que al conjunto
"Maduro"(0.6 > 0.4), pero no se puede decir, tratndose de
Conjuntos Difusos, que x es joven o que x es maduro de
manera rotunda.
64
Representacin Conocimiento. Fuzzy Logic
Variables Lingsticas
La Teora de Conjuntos Difusos puede utilizarse para
representar expresiones lingsticas que se utilizan para
describir conjuntos o algoritmos. Los Conjuntos Difusos son
capaces de captar por s mismos la vaguedad lingstica de
palabras y frases comnmente aceptadas, como "gato
pardo" o "ligero cambio". La habilidad humana de
comunicarse mediante definiciones vagas o inciertas es un
atributo importante de la inteligencia.
Una Variable Lingstica es aquella variable cuyos valores
son palabras o sentencias que van a enmarcarse en un
lenguaje predeterminado. Para estas variables lingsticas se
utilizar un nombre y un valor lingstico sobre un Universo
de Discurso. Adems, podrn dar lugar a sentencias
generadas por reglas sintcticas, a las que se les podr dar
un significado mediante distintas reglas semnticas.
Los Conjuntos Difusos pueden utilizarse para representar
expresiones tales como:
x es PEQUEO.
La velocidad es RPIDA.
El ganso es CLARO.
Las expresiones anteriores pueden dar lugar a expresiones
lingsticas ms complejas como:
x no es PEQUEO.
La velocidad es RPIDA pero no muy RPIDA.
El ganso es CLARO y muy ALEGRE.
65
Representacin Conocimiento. Fuzzy Logic
As, se pueden ir complicando las expresiones. Por ejemplo,
la expresin "x no es PEQUEO" puede calcularse a partir de
la original calculando el complemento de la siguiente forma:

_
no_PEQUEA
(x) = 1-
_
PEQUEO
(x)
Tratando de esta forma los distintos modificadores
lingsticos (muy, poco, rpido, lento...) pueden ir
calculndose todas las expresiones anteriores.
Por lo tanto, si la velocidad es 45 km/h, existen grados de
pertenencia 0.6,
0.3 y 0 a los conjuntos difusos "Bajo", "Medio" y "Alto"
respectivamente.
Operaciones bsicas de lgica difusa
Dados dos conjuntos difusos A y B en el mismo universo X,
con funciones de pertenencia u
A
y u
B
respectivamente, se
pueden definir las siguientes
operaciones bsicas:
Unin. La funcin de pertenencia de la unin de A y B se
define como: u
A B
= max { (u
A
(x), u
B
(x) ) }
Interseccin. La funcin de pertenencia de la interseccin de
A y B es: u
A B
= min { (u
A
(x), u
B
(x) ) }
Complemento. La funcin de pertenencia del complemento
de A se define como: u
no A
(x) = 1- u
A
(x)
66
Representacin Conocimiento. Fuzzy Logic
Producto cartesiano. Dados los conjuntos difusos A1, ..., An
con universos X1, ..., Xn respectivamente, se define el
producto cartesiano como un conjunto difuso en X1...Xn con
la siguiente funcin de pertenencia:
u
A1x..xAn
(x
1
,..., x
N
) = min{u
A1
(x
1
),... , u
An
(x
n
)}
segn Mamdani (1974)
u
A1x..xAn
(x ,..., x ) = u
A1
(x
1
). u
A2
(x
2
). u
A3
(x
3
)... u
An
(x
n
)}
segn Larsen (1980).
67
Representacin Conocimiento. Fuzzy Logic
MODELOS DIFUSOS LINGSTICOS
Estos modelos se basan en un conjunto de reglas heursticas
donde las variables lingsticas de las entradas y salidas se
representan por conjuntos difusos. La siguiente figura muestra las
principales componentes de un modelo difuso lingstico: interfaz
de fusificacin, base de conocimiento, motor de inferencia e
interfaz de defusificacin (Lee, 1990).
Interfaz de fusificacin.
Este elemento transforma las variables de entrada del modelo
(u) en variables difusas. Para esta interfaz se deben tener
definidos los rangos de variacin de las variables de entrada y
los conjuntos difusos asociados con sus respectivas funciones
de pertenencia.
Base de conocimientos
Contiene las reglas lingsticas del control y la informacin
referente a las funciones de pertenencia de los conjuntos
difusos.
68
Representacin Conocimiento. Fuzzy Logic
Estas reglas lingsticas, tienen tpicamente la siguiente forma:
Si u
1
es A y u
2
es B entonces y es C
donde A, B y C son los conjuntos difusos de las variables de
entrada u1 y u2, y de la variable de salida y respectivamente.
Existen varias formas de derivar las reglas (Lee, 1990), entre
las que destacan las basadas en:
-La experiencia de expertos y el conocimiento de ingeniera de
control. La base de reglas se determina a partir de entrevistas
con el operador o a travs del conocimiento de la dinmica del
proceso.
- La modelacin del proceso. Los parmetros de la base de
conocimiento se obtienen a partir de datos de entrada y salida
del proceso.
69
Representacin Conocimiento. Fuzzy Logic
Motor de inferencia.
Realiza la tarea de calcular las variables de salida a partir de
las variables de entrada, mediante las reglas del controlador y
la inferencia difusa, entregando conjuntos difusos de salida.
Por ejemplo, dada una base de conocimiento con n reglas del
tipo:
Si u
1
es A
i
y u
2
es B
i
entonces y es C
i
la secuencia de clculos que realiza el motor de inferencia
incluye:
- Determinar el grado de cumplimiento Wi de cada regla a
partir de los grados de pertenencia de las variables de
entrada obtenidos en la etapa de fusificacin, es decir,
W
i
= min (u
Ai
, u
Bi
)
debido a que las premisas de la reglas estn unidos por
operadores AND, definidos como la interseccin de conjuntos
difusos.
70
Representacin Conocimiento. Fuzzy Logic
Para cada regla se tiene una consecuencia "y es Ci", que tiene
asociado una funcin de pertenencia u
Ci
. Por lo tanto, se tiene
un conjunto de salida C'
i
, cuya funcin de pertenencia es:
u
C'i
= min (W
i
,u
Ci
)
Donde W
i
es el grado de cumplimiento para la regla i.
- Para evaluar el conjunto total de reglas, se unen los
conjuntos difusos C'
i
resultantes de cada regla, generndose
un conjunto de salida con la siguiente funcin de pertenencia:
u
C'
= max(u
C'i
) i = 1,..., n
De esta forma, se obtiene una salida difusa del controlador,
con una funcin de pertenencia u
C'
.
Interfaz de defusificacin.
Este elemento provee salidas discretas y determinsticas a
partir de los conjuntos difusos C' obtenidos como resultado de
la inferencia.Existen diferentes mtodos de defusificacin,
algunos de los cuales se describen a continuacin:
- Mtodo del mximo. La salida corresponde al valor para el
cual la funcin de pertenencia u
C'
alcanza su mximo.
- Media del mximo. La salida es el promedio entre los
elementos del conjunto C' que tienen un grado de pertenencia
mximo.
- Centro de rea. Genera como salida el valor correspondiente
al centro de gravedad de la funcin de pertenencia del
conjunto de salida C'.
71
Representacin Conocimiento. Fuzzy Logic
En particular, los modelos dinmicos difusos lingsticos, se
pueden
expresar como:
Regla i : Si y(t-1) es A1
i
y ..... y y(t-ny) es Any
i
y
u(t-1) es B1
i
y ..... y u(t-nu) es Bnu
i
y
entonces y
i
(t) es C
i
donde y
i
es la salida de la regla i.
72
Representacin Conocimiento. Fuzzy Logic
Ejemplo
Reglas Si x es A e y es B entonces z es C
R1 Si x es A1 e y es B2 entonces z es C2
x = 20 y = 26 z?
73
Representacin Conocimiento. Dempstar-Shafer
Introduccin a la teora de la evidencia de Dempster-
Shafer.
Introduccin.
Se trata de un proceso de seleccin de hiptesis en base a
una combinacin de evidencias.
En la teora se manejan evidencias que confirman o
desconfirman una hiptesis. Entenderemos que la
desconfirmacin equivales a la confirmacin de la hiptesis
negada.
Medidas de certeza de la evidencias.
Las medidas de certeza de las evidencias son un grado de
confirmacin o desconfirmacin de esta, e indica hasta que
punto podemos verificar la evidencia.
Se suelen utilizar rangos de ponderacin, [-1,1], donde
-1, indica la desconfirmacin absoluta de la evidencia.
0, indica desconocimiento de la validacin de la
evidencia.
1, confirmacin absoluta de la evidencia.
En este modelo el desconocimiento del valor de una
evidencia se expresa por un valor0, mientras que en el modelo
bayesiano, lo expresbamos por un valor de probabilidad a
priori.
74
Representacin Conocimiento. Dempstar-Shafer
Conjunto de decisin.
D, es un conjunto de hiptesis exclusivas que agrupan a las
hiptesis ms adecuadas despus de l anlisis de las
sucesivas evidencias.
Veamos un conjunto de decisin.
D = {gripe, rubola, sarampin, hepatitis} = {G,R,S,H}
Denominaremos 2
D
, al conjunto formado por todas la posibles
combinaciones tomadas de n=0, n=1, ...n=m sobre D, esto es:
n=4 {G,R,S,H}
n=3 {G,R,S}, {G,R,H}, {G,S,H}, {R,S,H}
n=2 {G,R}, {G,S}, {G,H}, {R,S}, {R,H}, {S,H}
n=1 {G}, {R}, {S}, {H}
n=0 Hiptesis vaca.
Llamaremos hiptesis compuestas a cualquier elemento de
2
D,
hiptesis simples que forman D.
Consideraremos como hiptesis complemento a una dada, su
complemento en D.
X U (noX) = D
X={G} , noX = {R,S,H}
Cuando una evidencia desconfirma una hiptesis, X, se
puede entender que confirma su hiptesis complemento en D.
Podemos expresar una hiptesis como subconjunto de otra,
X={R,S,H} y Z = {R,H}, entonces X c Z, y el conjunto D es la
hiptesis general.
75
Representacin Conocimiento. Dempstar-Shafer
Asignacin de probabilidades.
A cada elemento X, de 2
D
le podemos asignar una medida
de probabilidad, 0 <= m(x) <=1, que mide la certeza que
posee.
La asignacin del valor m(X) se hace atendiendo a:
1. Supondremos que m(0)=0
2. Si una evidencia confirma una hiptesis A, elemento
de 2
D
, con una medida, 0 <= p <=1, entonces m(X)=p
y m(D)=1-p.
3. Si una evidencia desconfirma una hiptesis A,
elemento de 2
D
, con una medida, 0 <= p <=1,
entonces m(no X)=p y m(D)=1-p.
4. Lo dems elementos de 2
D
, reciben una asignacin
nula de certeza.
5. Se debe verificar adems que:
Por ejemplo: Si una evidencia desconfirma un diagnostico
de gripe con una medida 0,7, se debe suponer una
asignacin de probabilidades:
m({R,S,H})=0.7
m({D})=0.3
M({X/X es un elemento de 2
D
,distinto de {R,S,H}} = 0

=
D X
x m 1 ) (
76
Representacin Conocimiento. Dempstar-Shafer
Funciones de credibilidad y plausibilidad.
Una funcin de credibilidad de una hiptesis, Cr(X), es la
cantidad de probabilidad que contienen todos sus
subconjuntos.
Definiremos plausibilidad de una hiptesis, Pl(X), a la
cantidad de probabilidad que contienen todos los subconjuntos
de . Cuya interseccin con X es no nula.
Las funciones de credibilidad y plausibilidad verifican:
Y observando las definiciones previas obtenemos que

=
X Z
Z m X Cr ) ( ) (
1 ) ( ) (
1 ) ( ) (
1 ) ( ) (
1 ) ( ) (
0 ) ( ) (
+
+
= +
= =
= =
noX Pl X Pl
noX Cr X Cr
noX Pl X Cr
D Pl D Cr
Pl Cr

=
X Z
Z m X Pl
I
) ( ) (
) ( ) ( X Pl X Cr
77
Representacin Conocimiento. Dempstar-Shafer
Partiendo del ejemplo anterior obtenemos:
Cr({R;S;H}) = m({G,R,S}) + m({R,S}) + m({R,H}) + m({S,H}) + m({R}) + m({S}) +
m({H}) + m({0}) = 0.7
Pl({R,S,H}) = 0.3 + 0.7
Cr({G}) = 0
Pl({G}) = 0.3
Composicin de probabilidades
La asignacin de probabilidades a hiptesis puede realizarse
atendiendo a la medida de certeza de varias evidencias, a
travs de una operacin de composicin.
Si m1(X) es la asignacin de probabilidad atendiendo a la
evidencia e1 y m2(X) es la asignacin de probabilidad
atendiendo a la evidencia e2, podemos definir l composicin
de m1 con m2 como:
Adems la operacin de composicin verifica:

=
=
X W Z
j i
j i
W m Z m x m m
I
) ( 2 * ) ( 1 ) ( 2 1
3 ) 2 1 ( ) 3 2 ( 1
) ( 1 2 ) ( 2 1
m m m m m m
x m m x m m
=
=
78
Representacin Conocimiento. Dempstar-Shafer
Veamos un ejemplo:
Supongamos una asignacin de probabilidad, m1, que
confirma la hiptesis {G,R} con un valor de 0,6, y por lo
tanto m1({G,R}) = 0,6 y m1({D}) = 0,4
Y sea m2 una asignacin de probabilidad que
desconfirma la hiptesis {G} con un valor de 0,7, esto es
m2({R,S,H}) = 0,7 y m2({D}) = 0,3
Podemos obtener la composicin de m1 y m2 con la
siguiente tabla cruzada:
Y los elementos con valor de probabilidad distinto de
cero son:
Las funciones de Cr y Pl sobre la composicin de
asignaciones de probabilidad se calculan de la misma
forma.
La composicin de asignaciones de probabilidad puede
que asigne valores de probabilidad a la hiptesis nula
distintos de cero. Veamos un ejemplo.
{D} 0.12 {R,S,H} 0.28 {D} 0.4
{G,R} 0.18 {R} 0.42 {G,R} 0,6
{D} 0,3 {R,S,H} 0,7
12 . 0 }) ({ 2 1
28 . 0 }) , , ({ 2 1
18 . 0 }) , ({ 2 1
42 . 0 }) ({ 2 1
=
=
=
=
D m m
H S R m m
R G m m
R m m
79
Representacin Conocimiento. Dempstar-Shafer
con m3 que es la asignacin de probabilidad dada
por una evidencia que confirma la hiptesis {G} en
una medida 0,8 Se obtiene:
Pero para respetar las condiciones anteriormente
definidas se utiliza un proceso de normalizacin:
1. Dadas dos asignaciones de probabilidad m1 y
m2, se obtiene la composicin de ambas de la
forma
2. Si la asignacin resultante de la composicin
no resulta normalizada, esto es:
3. Se normaliza aplicando:
{G,R} 0.036 {G} 0.144 {G,R} 0.18
{D} 0.2 {G} 0.8
{D} 0.024 {G} 0.096 {D} 0.12
{R,S,H} 0.056 0.224 {R,S,H} 0.28
{R} 0.084 0.336 {R} 0.42

=
=
X W Z
j i
j i
W m Z m x m m
I
) ( 2 * ) ( 1 ) ( 2 1
1 ) ( 2 1
0 ) ( 2 1

D X
X m m
m m
) ( 2 1 1
) ( 2 1
) ( 12 0 ) ( 2 1


= =
m m
X m m
X m y m m
Supongamos que la asignacin de probabilidad
resultante de la composicin anterior se componen
80
Representacin Conocimiento. Plausibilidad
Introduccin a la teora de la plausibilidad de Rescher.
Introduccin.
La teora de la plausibilidad proporciona la herramienta
necesaria para manipular el conocimiento extrado de fuentes
que no son totalmente fiables y pueden generar
inconsistencias.
Supongamos que partimos de dos fuentes de informacin
fiables pero imperfecta, S1 y S2. Digamos que
S1 afirma X
S2 afirma ^X
De acuerdo con lo vistos en la teora de modelos
probabilsticos, vamos a tener que S1 afirma con probabilidad
p(X) = 0,9 y por S2 obtendremos que X es falso con
probabilidad p(^X) = 0.9, de forma simtrica podramos haber
deducido p(^X) = 0.1 y p(X) = 0.1, haciendo uso de la teora
que afirma que p(x) = 1 p(^X).
El uso de la lgica formal, tampoco conduce a resultados
coherentes. Supongamos las fuentes de informacin S1, S2 y
S3. Generalmente fiables pero imperfectas:
S1 afirma ^P
S2 afirma ^Q
S3 afirma P v Q
La lgica formal simplemente dira que el conjunto de
afirmaciones es inconsistente, {^P, ^Q, P v Q}.
81
Representacin Conocimiento. Plausibilidad
Cuando el conjunto anterior se ve truncado es posible
construir subconjuntos consistentes:
1. Eliminamos ^P {^Q , P v Q}
2. Eliminamos ^Q {^P , P v Q}
3. Eliminamos P v Q {^Q , ^P}
Conjunto P-indexado de plausibilidad.
Un conjunto p es un conjunto de asertos que han sido
respaldados por fuentes de cierto grado de fiabilidad.
Dados los grados de fiabilidad de las fuentes se pueden
determinar los graos de plausibilidad de los asertos en un
conjunto P( P set, PS), atendiendo a los siguientes
principios.
1. A cada miembro de PS se le debe asignar un valor
de plausibilidad. La Plausibilidad asignada a un
miembro se toma de la fuente mas fiable.
2. A las formulas validas universalmente se les asigna
valores de plausibilidad 1
3. Todos los miembros de PS con valor 1 deben ser
lgicamente consistentes y materialmente
compatibles entre si.
4. Cuando un subconjunto consistente, SPS, de PS
implica () algn otro miembro Q de PS, entonces
el valor de plausibilidad de Q no debe ser menor el
el menos plausible en SPS.
5. Cualquier aserto P, y su negacin ^P, pueden tener
valores de plausibilidad relativamente altos, pero no
pueden valor 1, puesto que contradice el punto 2.
6. En una situacin de conflicto se toma el aserto con
valor de plausibilidad mas alto.
82
Representacin Conocimiento. Plausibilidad
Ejemplos:
Supngase que hemos obtenido el siguiente conocimiento:
Podemos realizar la siguiente asignacin de plausibilidad:
q , ^r , s m 0.3 S4
p , p q , r , s 0.8 S2
Aserto Fiabilidad Fuente
p , s ^p 0.6 S4
p q 1.0 S1
0.8 s
0.8 q
0.3 ^r
0.3 s m
0.8 r
0.8 p q
0.8 p
Plausibilidad Tesis
0.6 s ^p
1 p q
83
Representacin Conocimiento. Plausibilidad
Aumento de los conjunto P.
Si un conjunto P es consistente, no hay nada que impida
aumentarlo con una o mas de sus consecuencias lgicas
puesto que estas pueden ser consideradas como inferencias
razonables.
Ahora bien si un conjunto P es inconsistente slo lo
aumentaremos con asertos que generen ms inconsistencias.
Si partimos del ejemplo anterior obtendremos.
0.6 s ^p
0.3 m
0.8 s
0.8 q
0.3 ^r
0.3 s m
0.8 r
0.8 p q
0.8 p
Plausibilidad Tesis
0.8 s r
1 p q
84
Representacin Conocimiento. Plausibilidad
Subconjuntos consistentes mximos.
Si se tiene un conjunto p inconsistente, podemos
recuperar la consistencia eliminando uno o ms asertos
que conducen a la inconsistencia.
Definimos subconjunto consistente mximo (SCM) de PS,
al subconjunto de p que queda una vez se han eliminado
uno o varios asertos que provocaban la inconsistencia.
Ms formalmente diremos que un subconjunto PS
i
de PS
es un subconjunto consistente mximo de PS si:
1. Ps
i
no es un subconjunto vaco de PS.
2. Ps
i
es lgicamente consistente.
3. No se pueden aadir elementos de PS a Ps
i
sin que
se genere una inconsistencia.
s ^p
m
s
q
^r
s m
p q
p
SCM1
s r
p q
s ^p
m
s
q
^r
s m
r
p q
p
PS
s r
p q
s ^p
m
s
q
s m
r
p q
p
SCM2
s r
p q
85
Introduccin a los sistemas expertos.
Historia de los SE
50. General Program Resolver. GPS
60. Informe Alpac.
1967. DENTRAL. Identificar estructuras qumicas
moleculares.
1972. MYCIN. Hacer consultas y diagnsticos, de
enfermedades infecciosas de la sangre.
80. Auge de los SE. 1000 millones de $.
Herramientas open source. La Nasa desarrolla
CLIPS.
Definicin.
Los sistemas expertos son una rama de la IA que hace
uso del conocimiento especializado para resolver
problemas como un especialista humano. En su
dominio del conocimiento el SE razona o hace
inferencia de la misma forma que una especialista
humano inferira la solucin del problema.
86
Introduccin a los sistemas expertos.
Propiedades de un SE.
Uso especifico. Dominio acotado
Tiempo de respuesta adecuado.
Fiabilidad
Comprensible.
Flexibilidad.
Representacin explicita del conocimiento.
Anlisis comparativo entre SE y sistemas clsicos
de computacin.
Representa y usa
conocimiento.
Representa y usa datos
La ejecucin usa heurstica
y lgica
Se ejecuta paso a paso
Puede dar resultados con
unas pocas reglas.
El sistema solo puede
funcionar si esta completo
Los cambios en las reglas
son fciles
Los cambios son tediosos
Una parte del SE compone
el modulo de explicacin
No explica como se
obtienen los resultados
Puede contener errores No contiene errores
Base de conocimiento
separada del mecanismo de
procesamiento
Conocimiento y
procesamiento combinados
en un programa
Sistema Experto Sistema Clsico
87
Introduccin a los sistemas expertos.
Aplicaciones de los SE.
Categora Tipo de problema Uso

Interpretacin
Deducir situaciones a partir de
datos observados
Anlisis de imgenes,
reconocimiento del habla,
inversiones financieras

Prediccin
Inferir posibles consecuencias
a partir de una situacin
Prediccin meteorolgica,
previsin del trfico, evolucin
de la Bolsa

Diagnstico


Deducir fallos a partir de sus
efectos
Diagnstico mdico, deteccin
de fallos en electrnica

Diseo
Configurar objetos bajo ciertas
especificaciones
Diseo de circuitos,
automviles, edificios, etc.

Planificacin
Desarrollar planes para llegar a
unas metas
Programacin de proyectos e
inversiones. Planificacin
militar

Monitorizacin o
supervisin
Controlar situaciones donde
hay planes vulnerables
Control de centrales nucleares
y factoras qumicas

Depuracin
Prescribir remedios para
funcionamientos errneos
Desarrollo de software y
circuitos electrnicos

Reparacin
Efectuar lo necesario para
hacer una correccin
Reparar sistemas informticos,
automviles, etc

Instruccin
Diagnstico, depuracin y
correccin de una conducta
Correccin de errores,
enseanza

Control
Mantener un sistema por un
camino previamente trazado.
Interpreta, predice y supervisa
su conducta
Estrategia militar, control de
trfico areo

Enseanza
Recoger el conocimiento y
mostrarlo
Aprendizaje de experiencia

88
Introduccin a los sistemas expertos.
Ventajas de los SE respecto a los expertos
humanos:
Mayor disponibilidad. El sistema experto es una
produccin de experiencia.
Coste reducido.
Peligro reducido. Ambientes hostiles.
Permanencia.
Mayor confiabilidad.
Explicacin.
Respuesta rpida.
Respuestas slidas, complejas y sin emociones.
Tutora inteligente.
Base de datos inteligente.
Proceso de desarrollo del SE.
89
Introduccin a los sistemas expertos.
Los sistemas basados en reglas son actualmente la
eleccin ms popular para el diseo y la construccin
de sistemas expertos.
Se definen a partir de un conjunto de objetos, que
representen las variables del modelo considerado,
ligadas mediante un conjunto de reglas, que
representarn las relaciones entre las variables.
Sistemas basados en reglas.
Un sistema experto basado en reglas es un
programa de ordenador (motor de inferencia, MI)
capaz de procesar informacin especfica
contenida en memoria con un conjunto de reglas
(base del conocimiento, BC) mediante un motor
de inferencia para deducir nueva informacin.
Los sistemas basados en reglas difieren de la
representacin basada en lgica en las siguientes
caractersticas principales:
Son en general no-monotnicos, es decir
hechos o afirmaciones derivadas, pueden
ser retractados, en el momento en que
dejen de ser verdaderos.
Pueden aceptar incertidumbre en el
proceso de razonamiento. Factores de
certeza.
90
Introduccin a los sistemas expertos.
Elementos de los SE
Una caracterstica decisiva de los Sistemas Expertos
es la separacin entre conocimiento (reglas, hechos)
por un lado y su procesamiento por el otro. A ello se
aade una interfase de usuario y un componente
explicativo.
Bases de Conocimiento
BC
G
e
n
e
r
a
d
o
r

E
x
p
l
i
c
a
t
i
v
o
Agenda
Motor de Inferencia
MI
Modulo Explicativo
ME
I
n
t
e
r
f
a
z

d
e

u
s
u
a
r
i
o
91
Introduccin a los sistemas expertos.
La Base de Conocimientos.
Contiene el conocimiento de los hechos y de las
experiencias de los expertos en un dominio
determinado.
El mtodo ms comn para representar el conocimiento
es mediante reglas de produccin.
Es independiente del mecanismo de inferencia que se
utiliza para resolver los problemas.
Existen reglas de produccin que no pertenecen al
dominio del problema (metareglas/ metaconocimiento).
Hay que tener en cuenta:
Qu objetos sern definidos?
Cmo son las relaciones entre los objetos?
Cmo se formularn y procesarn las reglas?
La base de conocimientos hace totalmente
referencia a la solucin del problema?
La base de conocimientos es consistente?
Como se modela la incertidumbre.
Como es la composicin del antecedente y
consecuente de las reglas. Acciones.
ndices de prioridad para aplicar las reglas.
92
Introduccin a los sistemas expertos.
La BC tambin contiene los hechos.
La base de datos o base de hechos es una parte de la
memoria del ordenador que se utiliza para almacenar
los datos recibidos inicialmente para la resolucin de
un problema.
Contiene conocimiento sobre el caso concreto en que
se trabaja.
Tambin se registrarn en ella las conclusiones
intermedias y los datos generados en el proceso de
inferencia.
Al memorizar todos los resultados intermedios,
conserva el vestigio de los razonamientos efectuados;
por lo tanto, se puede utilizar explicar las deducciones
y el comportamiento del sistema.
93
Introduccin a los sistemas expertos.
El motor de inferencia
Controla el proceso de razonamiento que seguir el
sistema experto.
Utilizando los datos que se le suministran, recorre la
base de conocimientos para alcanzar una solucin:
encadenamiento guiado por datos ,hacia delante o
deductivo.
encadenamiento guiado por objetivos, hacia atrs
o inductivo
Datos
Solucin
Datos
Solucin
94
Introduccin a los sistemas expertos.
El motor de inferencia. Encadenamiento deductivo
Se comienza con los hechos disponibles en la base
de datos, y se buscan reglas que satisfagan esos
datos .
Aplicable a supervisin y diagnstico en sistemas de
control de procesos en tiempo real:
Necesidad de respuesta rpida a los cambios en
los datos de entrada.
Existencia de pocas relaciones predeterminadas
entre los datos de entrada y las conclusiones
derivadas.
Paso 1:
Unificacin
Paso 2:
Resolucin
de conflictos
Paso 3:
Ejecucin
Conocimiento
Hechos
Reglas Nuevas Reglas
Reglas
Aplicables
Regla
Seleccionada
Hechos Nuevos hechos
95
Introduccin a los sistemas expertos.
El motor de inferencia. Encadenamiento deductivo
BH=
BC=
Si nieva entonces hay nubes
Si llueve entonces hay nubes
Si llueve entonces me mojo
Si llueve entonces cojo paraguas
Si hay nubes entonces no se ve el sol
Si no se ve el sol entonces no se pueden hacer
fotos
Puedo hacer fotos?
{Llueve}
Ciclo T=1
{Llueve, hay nubes, me mojo, cojo paraguas}
Ciclo T=2
{Llueve, hay nubes, me mojo, cojo paraguas, no se ve el sol}
Ciclo T=3
T=1
T=2
T=3
96
Introduccin a los sistemas expertos.
El motor de inferencia.Encadenamiento deductivo.
Lo que se intenta es probar una hiptesis a partir de los
hechos contenidos en la BD y de los obtenidos en el
proceso de inferencia.
BH=
Si nieva entonces hay nubes
Si llueve entonces hay nubes
Si llueve entonces me mojo
Si llueve entonces cojo paraguas
Si hay nubes entonces no se ve el sol
Si no se ve el sol entonces no se pueden
hacer fotos
Puedo hacer fotos?
En la mayora de los SE se utiliza el ER. Tiene la
ventaja de que el sistema va a considerar nicamente
las reglas que interesan al problema en cuestin .
{Llueve}
97
Introduccin a los sistemas expertos.
El componente explicativo.
Aclarar al usuario la lnea de razonamiento seguida en
el proceso de inferencia.
Valiosa cuando se tiene la necesidad de tomar
decisiones importantes amparndose en el consejo del
sistema experto.
El subsistema de explicacin tambin puede usarse
para depurar el sistema experto durante su desarrollo .
La interfaz de usuario
El interfaz de usuario permite que el usuario pueda
describir el problema al sistema experto.
Interpreta sus preguntas, los comandos y la
informacin ofrecida.
Formula la informacin generada por el sistema
incluyendo respuestas a las preguntas, explicaciones y
justificaciones
Caractersticas de la interfase
El aprendizaje del manejo debe ser rpido.
Debe evitarse en lo posible la entrada de datos
errnea.
Los resultados deben presentarse en una forma
clara para el usuario
Las preguntas y explicaciones deben ser
comprensibles
98
Introduccin a los sistemas expertos.
Ejemplo: Sistema Experto para identificar aviones
Cabina Ningn Sobre alas Bajo alas Salientes
Normal Forma T Forma T Normal Forma timn
Especial Especial Especial Normal Forma alas
Bajas Altas Altas Altas Alas
Jet Jet Jet Hlice Motor
B747 C5A C141 C130 Atributo
TIPO DE AVIN
99
Introduccin a los sistemas expertos.
Arbol de decisin.
Tipo de Motor
Tipo de Motor
Forma de alas
Forma de alas
Jet Hlice
Jet Hlice
Posicin de alas
Posicin de alas
Forma del timn
Forma del timn
Normal Forma T
Normal Forma T
?
Salientes
Salientes
Ninguna Sobre Bajo En cabina
Alas alas
Ninguna Sobre Bajo En cabina
Alas alas
C130
Especial Normal
Especial Normal
Puntos
terminales sin
solucin
?
Bajas Altas
Bajas Altas
B747
C5A
?
?
C141
100
Introduccin a los sistemas expertos.
Reordenacin del arbol de decisin.
Tipo de
Motor
Tipo de
Motor
Posicin de alas
Posicin de alas
Jet Hlice
Jet H Jet H lice lice
C130
Salientes
Salientes
C5A
C141
Ninguna Sobre Alas
Ninguna Sobre Alas
Bajas Altas
Bajas Altas
B747
101
Introduccin a los sistemas expertos.
Ejemplo de Regla ineficiente
IF motor=hlice
AND posicin_alas=altas
AND forma_alas=normal
AND forma_timn=normal
AND salientes=bajo alas
THEN tipo_avin=C130
102
Introduccin a los sistemas expertos.
Reglas de produccin (BC)
IF motor=jet
AND posicin_alas=altas
AND salientes=sobre alas
THEN tipo_avin=C141
Regla 4:
IF motor=jet
AND posicin_alas=altas
AND salientes=ninguna
THEN tipo_avin=C5A
Regla 3:
IF motor=jet
AND posicin_alas=bajas
THEN tipo_avin=B747
Regla 2:
IF motor=hlice
THEN tipo_avin=C130
Regla 1:
103
Introduccin a los sistemas expertos.
Hacia adelante
Hacia atrs

Você também pode gostar