隐式马尔可夫模型分析恋爱系统

众所周知，男孩和女孩来自不同星球的科学事实。男孩总是认为女孩是迷恋同样的生物。他们的情绪状态似乎在几秒钟内发生变化，很难理解，更不用说预测了！而且女生觉得男生没有感觉到动物，根本无法理解什么是感觉——虽然已经告诉他们N次了！这种男女之间的根本区别导致他们的情感关系由一个超级不可战胜和复杂的系统主导。然而，我们可以使用一个叫做隐式马尔可夫的人(HiddenMarkovModel)数学模型来分析系统。首先，让我们来看看最简单的预测系统–如果我们知道我们目前的状态，决定性系统。然后我们无疑可以预测下一个状态是什么。例如，全年的轮换是一个决定性的系统：每个季节的交替都是完全可以预测的。如果现在是春天，那么下一个季节将是夏天，冬天的前一个状态必须是秋天等等。此外，值得一提的是，冬天过后，下一个季节将回到春天，以便循环……另一个常见的决策系统，是交通灯的轮换：红灯应该是绿灯。绿灯应该是黄灯，然后回到红灯。这个系统很常见，人们的生活大致可以被视为这个系统。有几种状态，如婴儿、青少年、成年人、老年人和死亡。然而，不同的是，人们的生活并不完全遵循这种状态。每个人都有跳过其中一个或多个状态的可能性，直接到达死亡状态…(更不用说benjaminbuttons了，呵呵).说到这里，聪明的男孩可能会想到，我们世界上最精致、最令人震惊的非决定性系统是你女朋友的情感状态！对大多数男孩来说，准确预测女朋友的下一种情绪状态基本上是胡说八道。一个mm现在可能心情很好，但下一秒就疯了；她可能在某个时刻很难过，但在下一刻她变得非常兴奋。在每个女孩的情绪状态中，都有一种基于概率但不可预测的本质，这种无序的本质直接导致无数男孩蹲下来画圆圈。。。虽然女孩的情绪状态似乎是不可预测的，但经过长时间的观察，我们可以发现这种现象是有规律的！所以小明，作为一名计算机科学家，决定系统地分析他女朋友的情感不确定性，挖掘规则！因此，小明仔细记录了女友小丽半年来每天的喜怒哀乐变化状态，并制作了一张图表来表达小丽的历史情感变化。小明想知道，有了这些数据，他能不能知道，如果小丽有一天情绪状态快乐，第二天她会保持更好的心情还是更难过？等等。。。数据胜于雄辩，从这半年的数据中，小明发现，当小丽开心的时候，第二天三分之四的时候，她还是保持着好心情。只有四分之一的情况下，小丽第二天的心情会改变，比如愤怒、悲伤等等。(小明真的很幸运！).小明继续分析所有其他情绪状态的变化，如从快乐到悲伤、悲伤到愤怒、快乐到愤怒等可能的组合。很快，小明得到了所有的组合变化数据，了解了下一个最有可能的情绪状态。为了方便教学，我们假设小明只关心小丽的四种情感状态:快乐、悲伤、愤怒、担心Table1:在这张表中，小丽的情绪状态变化表中，每一个数字都代表了小丽情绪从某一列变为某一行的概率。例如，如果小丽有一天心情愉快，那么她下一天就会有0.1的概率变得悲伤或愤怒，0.05的可能性变成了担忧。每行代表从某种情绪到各种情绪的概率，所以每行的概率之和是1。同样，每列代表从各种情绪到列所代表的情绪的概率，所以每列的概率之和也应该是1。我们可以画一个状态图（图1）来表示表1，每个圆代表一种情绪状态，每两种情绪变化从一个弧，从当前的情绪状态到下一个情绪状态，每个弧都有一个状态转换的概率.Figure1:有了这张图表，小明可以直观地看到小李最有可能的下一种情绪。她很可能会变得悲伤（准备花巧克力），或者更有可能生气（迅速闪烁！)小明每天只需要看看哪个弧线指向最大的情绪概率。这个过程，学生们，是著名的“马尔可夫过程”(Markovprocess)然而，应该注意的是，马尔可夫的过程有一些假设的前提。在我们的例子中，我们只依靠小李那天的心情来预测小李下一天的心情，而不是考虑她以前的心情。很明显，这种假设下的模型远远不够准确。很多时候，随着日复一日的过去，女孩们通常会变得越来越体贴。通常，女孩生气几天后，她们的愤怒会慢慢消失。例如，如果小李生气三天，她第二天就有可能开心，在大多数情况下，比她只生气一天，第二天更有可能快乐。马尔可夫的过程并没有考虑到这一点。用行话说，马尔可夫模型忽略了远程历史效应(longrangedependency).我钦佩你能坚持在这里阅读，但是，还没有结束，我还没有说，隐藏的马尔可夫模型(HiddenMarkovModel)是什么呢!如果你有点头晕，请停下来，以免大脑过热死机！如果你有点头晕，请停下来，以免大脑过热死机！隐式马尔可夫模型–HiddenMarkovModel,orHMMforshort.有时候，我们不能直接观察一件事的状态。例如，有些女孩可以隐藏自己的情绪而不表现出来！他们可能每天都微笑，但这并不意味着他们每天都快乐。因此，我们必须有一些技巧来依靠我们可以直接观察到的东西。换句话说，我们的英雄小明，自从小李发现他几乎不正常的科学分析行为后，就变得非常善于隐藏自己的情绪，导致小明有一天错误地估计了小李的情绪！当小明错误地认为小李那天会心情好的时候，小明告诉小李，她不小心打破了她心爱的iPod。。小明没想到那天小李非常生气，因为她前一天错过了商场名牌折扣活动。。经过一场血腥的风暴，两人终于分手了。然而，小明很快又交上了另一个女朋友，因为他英俊潇洒–小玲.鉴于小明的意识，女孩表面上的情感表现非常不可靠，小明决定寻找另一条路，继续预测女朋友的情绪！(作为数据科学家，小明确实有不怕碰壁的精神！(作为一名数据科学家，小明确实有不怕碰壁的精神！)小明每个月都会帮小玲支付信用卡费用(我真的不明白小玲为什么有这样的男朋友不开心！),因此，小明每天都能知道小玲每天买什么。小明突然灵机一动:“也许我可以通过观察她的购物规则来推导和预测小玲的心情！”.这听起来有点奇怪，但这个过程确实可以用数学模型来表达和分析，称为隐式马尔可夫。因为我们需要预测的变量–情绪状态不能直接观察，是隐藏的(Hidden)所以这个模型叫隐式马尔可夫模型。和小玲的好朋友一起吃饭的时候，小明了解到以下重要信息：“小玲开心的时候经常买很多新衣服”，“那天小玲一个人去超市买了很多食物，一定有什么担心（担心）”，“你不能让小玲生气，否则她会爆炸你的信用卡！“小玲悲伤了好几次，整天呆在家里看杂志.”.知道了这些信息，小明扩展了他最初使用的马尔可夫模型，给每个隐藏的状态（情绪）一个新的可观测状态(Observables),这些可观测状态如下：1.t大部分(>费用为Fashion购物中心(O1)50%.t大部分(>超市(O2)350%的费用.tOhmyGod!一天刷5000多元！一天刷5000多元！！!(O3)4.tOhyeah!这一天她没有花钱(O4)为图简单，我们假设小玲和小明的ex小丽有着相同的实际情绪转换概率(图1).小明通过对小玲过去的信用卡账单进行分类统计(天啊，为什么这么多！),如表2所示，Table2发现了日常情绪与日常信用卡消费之间的关系:小玲的日常情绪状态与当天信用卡费用的关系概率表我想加一句话，因为概率的归一性(各种可能性之和为1)，为了不降低本文的娱乐搞笑性，规定如果有一天小玲的大部分费用都是Fashion或者超市，那么她的费用就不能超过5000。只有这样，我们才能拥有各行各业的O1 O2 O3 O4=1。也就是说，当小玲高兴的时候，小明发现80%的时候，小玲基本上买了性感的小衣服(:Q),也有10%的情况下大部分都是买吃的，让小明郁闷的是，小玲竟然高兴了，还有5%的情况，刷了他5000 ;最后剩下的5%的情况下，小玲可能会因为太开心而忽略消费(小明暗笑:”是的，就是那次，她心情很好，weBEEPallday,itwasthebestweeverhad!从此，小玲心情的隐式马尔可夫模型出来了(图2).Figure2:有了这个模型，我们可以回答这个问题：“如果我知道小玲的信用卡成本规则，我能找出她最有可能的情绪变化顺序是什么吗？”具体来说，小玲出差了一周，小明每天打电话给她，问她今天是否快乐。小玲说“快乐”。。。但事实上，小明自言自语，哼，如果你不告诉我，我就得算了！小明Login去了小玲的信用卡网站，打开了statement，统计了一下，发现小玲本周的消费规律是:“O2O1O4O2O3O1O4”(对应消费序列穿、吃、不刷、吃、爆、穿、不刷)。有了这个消费序列和图2模型，有没有办法找出小玲这7天最有可能的心情序列是什么？Viterbisearchalgorithm(维特比搜索算法)用于计算HMM模型中给定的观测序列O(消费规则)，对应最可能的隐藏状态序列(情绪变化).Viterbi的原理和实现已经超出了本文的解释范围，感兴趣的同学可以去Wiki或者开始谷歌。简单来说，Viterbi属于动态规划(Dynamicprogramming)一种算法，如果我们事先知道观测序列，用于更有效地计算转移矩阵及其观测矩阵(分别对应我们的Table1和Table2)制约下最大可能的隐藏状态转移序列。根据上述转移矩阵(table1})和观测矩阵(table2)，建立HMM模型并使用Viterbi算法(HMM还需要添加一个状态起始概率来表示每个状态作为起始状态的可能性，因为小明无法知道>这个数字只能作为最简单的假设–假设它们分布均匀，分布均匀(uniformlydistributed),所以每种状态的开始>概率为1/4.可以知道,对应上述观察序列，小玲那七天最有可能的情绪序列为：担心、悲伤、悲伤、愤怒、悲伤的概率为p=1.4×看来小玲这次出差压力不小啊！呜呼!到目前为止，介绍了整个HidenMarkovmodel。当然，中间还是有很多细节我直接忽略了。而且，在实际使用中，HMM模型的规模要大得多，无论是隐藏状态数还是可观测状态数，都有1000多个。.在计算机信息学中，HMM及其相关算法被广泛应用于各行各业，大量的语音识别，中文分词，中文拼音汉字转换系统采用隐式马尔可夫模型.