信息损耗用于表征信息量的消耗,在任何存在信息传递的系统当中,都必须要考虑信息损耗对于系统所产生的影响。我们注意到,当下对于信息损耗的讨论主要都是在白盒系统当中,此时不仅确定信息损耗是容易的,同时规避信息损耗对于系统的影响也是可能的。本文则把研究对象选在了流密码和卷积神经网络这样的灰盒系统中,在这些系统中,由于系统中存在着相当一部分的未知性质,从而为界定系统中的信息损耗,并评估它所产生的影响增加了困难。本文对流密码和卷积神经网络这些信息损耗难以界定系统进行了研究,并就信息损耗对于它们的影响进行了深入探讨,我们取得了以下研究成果:1、设计了一种基于Rule30+细胞自动机的流密码,并对其进行了详尽的安全性分析。该算法有良好的安全性和扩展性,并能够支持任意长度的密钥。2、定义了流密码中的信息损耗,并且分析了信息损耗与统计意义上安全性的关系。通过对比信息损耗在流密码与分组密码的不同之处,我们得出了一个设计良好的分组密码能够在理论上避免系统产生信息损耗这一关键结论。3、定义了卷积神经网络中的信息损耗,并发现卷积神经网络具有信息损耗随着结构的往下深入而快速积累的性质。同时,在研究了信息损耗在不同架构中的分布情况后,我们发现只有当架构中包含控制信息损耗的结构时,该卷积神经网络的架构才能够支持较大的深度。