随着无线电业务的发展与普及,以及复杂多变的城市地形环境影响,多径效应等不确定因素日渐增多,致使城市间电磁环境愈加复杂,导致了无线电测向精度降低。基于空间谱估计的无线电测向系统可以迅速、准确地在城市的复杂电磁环境中对目标信号进行查找和监测,极大提高了复杂电磁环境下无线电监测的效率。本文主要通过改进无线电测向系统中的空间谱测向算法,使该系统能够适应于不同类型的复杂电磁环境模型下的测向工作。具体内容如下:首先,本文分别对两种不同类型的复杂电磁环境模型,多径相干信号环境模型和非等功率信号环境模型进行了建模,对空间谱估计测向体制及该体制下两种经典的测向算法进行介绍,为后文的研究打下理论基础。其次,针对传统算法MUSIC在小信噪比及小快拍数等复杂不利因素影响下性能较差的特点,在原有算法的原理上改良出一种新算法,该算法通过修正传统算法的加权系数并改造其噪声子空间来提升算法的估计性能,进一步将该算法与改进后的空间平滑技术相结合,用来解决复杂电磁环境下对相干信号来波方向进行估计的问题。然后,在非等功率信号的复杂电磁环境中,采用公式推导及仿真的研究手段发现随着强干扰逐渐增强,原有MUSIC算法分辨入射信号方向的能力会逐渐降低甚至完全失去作用。为了解决这一问题,本文对能够抑制强干扰信号的干扰阻塞算法进行了研究,该算法通过提前已知强干扰的方向和个数构造出干扰阻塞转换矩阵来实现抑制强功率干扰的目的。进一步地将干扰阻塞法与改进的空间平滑MUSIC算法进行联合估计,解决强干扰环境下弱相关目标信号的DOA估计问题。最后,本文采用GNU Radio软件无线电平台来搭建复杂电磁环境下的空间谱估计测向系统,该系统主要由信号产生、数据处理及结果显示三大部分组成,通过在该系统上加载JJM算法与新型空间平滑MUSIC所组成的改进型联合估计算法,来验证该算法在非等功率且相干的复杂信号环境中进行测向的可行性与适应性。