委托交易 - 会员收费标准 - 广告收费标准 - 汇款方式 - 联系我们 - 免责申明 - 行业黑名单 - 型号导航 设为首页 | 加入收藏夹 | 中文版 | 英文版
 
 
打造国内最大的IC交易平台
技术资料 行业资讯 PDF资料 IC价格 IC替换 缩略语 IC供应 IC采购
当前位置： 首页 > 技术资料 > 消费电子 > 一种图像向音乐转化的方法
一种图像向音乐转化的方法
类别：消费电子  
 
作者：北京航空航天大学电子工程系（100083） 毛 峡 丁玉宽 田 耕 来源：《电子技术应用》

一种图像向音乐转化的方法

摘 要 对图像与音乐之间的映射关系及映射规律进行了探讨 利用图像与音乐之间的对应关系 根据一定的科学与艺术规则 提出相应的算法将图像的原始信息转化为MIDI音乐。

关键词 图像 音乐 图像向音乐转化 同构联觉 MIDI音乐

自古以来书画和音乐就是一对孪生姐妹，当人们陶醉于世界大师笔下的美术与摄影作品的水墨丹青之时，一首基于该作品的美妙音乐似乎就萦绕在耳旁。例如，在欣赏“奔腾黄河”的画卷时，人们似乎能听到黄河的咆哮声；在欣赏“山林晨曲”的画卷时，人们又好象听到了山间小溪的潺潺流水声、林中小鸟委婉动听的歌唱声。本研究受以上联想的启发，根据一定的科学与艺术规则，探索图像与音乐之间的映射关系和映射规律，将图像信息转化为MIDI音乐，使人们第一次感受到“听画”的惊喜。

１ 图像与音乐的对应关系

无论是西方社会还是东方社会，都有人把音乐与颜色对应起来。例如，早在十七世纪物理学家牛顿就曾以赤、橙、黄、绿、青、蓝、紫对应于C、D、、F、G、A、七个音名。音乐的高低指音响有规律的排序即由低到高再由高到低形成一种和谐的阶梯式音列；音乐的旋律是指一条条由音符串缀起来的线条，它是根据人的情感的高低起伏将音符或级进或跳跃组合形成的；而图像中多彩缤纷的景色也是根据人的情感用丹青层层递进绘出的。音乐中音调的变化快慢，即音的长短，形成了节奏。节奏在音乐作品中总是与节拍结合在一起的。音无论长短，在一个小节的单位范围内，其奏鸣总有循环往复的轻拍与重拍的交替。一般而言，节奏由于有了强弱节拍的内在韵律，又由于有音的长短内外对比的交错，往往显示一种力度。这种力度正是支持旋律流动的支架。由于节奏支撑着音调，在时间过程中展开，因此，它就与音乐进行的快慢息息相关。而速度快慢可以使音高与长短，即旋律与节奏产生不同的表现效果；对于图像而言，它本身也有色彩、亮度等变化剧烈或平缓的表现，人们形容图像作品时也常用诸如明快、暗淡、柔和、粗犷之类的音乐术语进行描述。

音乐是在时间中展开、以诉诸听觉的声音为基本材料的艺术。因此时间及表示声音基本特征的音调、音强、音色就构成了音乐的基本要素。在人的体验中，听觉的高频音和视觉中明亮的色调具有一种潜在的联系，这种联系给人以“上升的感觉”；反之，听觉中的低频音与视觉中黑暗的色调由于与“下沉的感觉”相类似而被联系在一起。音调越‘低沉’，体验到的颜色越‘深’；反之，较‘高’的音调会引起‘浅’亮的感觉。因此可以看出，音乐与颜色有着明显的直觉类比关系。因此直觉体验方向上的相同就使不同感觉视觉与听觉之间发生同构联觉。

查看详细 ２ 图像向音乐的转化

图像向音乐转化的系统框图如图１所示，首先将图像文件中的数据读入文本文件；再对文本文件中的数据进行处理；然后将处理后的数据转化成规定好的“音乐符号”；最后将“音乐符号”转换成MIDI音乐。

由于音乐与颜色之间存在直觉类比关系，所以本文中图像信息向音乐的转换不是指通常意义上的多媒体技术，而是利用图像与音乐之间的对应关系，根据一定的科学与艺术规则提出相应的算法，对图像的原始信息进行处理后转化为MIDI音乐。

2.1 图像数据的读取与颜色模型

本论文是用24位真彩BMP文件格式存放图像RGB的灰度值，但由于HSV（色彩Ｈ、饱和度Ｓ、明度Ｖ）模型是直接与艺术家使用颜色的直观表现相联系的，所以为了更贴近人的感觉，本系统进行处理的图像数据采用的是颜色模型HSV中的色彩（H）信息。这里通过式(1)所示的RGB模型与HSV模型之间的转换关系式将RGB模型的灰度值数据转换为HSV模型的数据。

图像与音乐的最大区别是：图像是在二维空间展开，而音乐则是一维时基类媒体中展开的。由于音符必须有一个时间延续方向才能组成乐曲，所以按照大多数人欣赏书画的习惯，本论文采用图像的纵向（由上而下）为数据的处理方向，即为音乐的前进方向。 查看详细

2.2 图像数据处理

根据图像中的色彩与音乐中的音调的对应关系，考虑到图像各部分色彩的过渡性及色彩过渡的模糊性，即相邻像素间的相关性和图像界限的不确定性，以及14个可用的标准MIDI通道（共有１６个通道，其中两个为其它特殊用途）。将图像在横向上近似平均分成14个部分（每个部分都有ｎ列像素），将图像的色彩数据进行处理。首先将第１部分的各列数据按列求算术平均值后，作为第１列数据；然后将第1、2两部分数据求算术平均值后作为第２列数据；再将第1、2、3三部分数据求算术平均值后作为第３列数据；依此类推···，将图像中所有列数据求算术平均值后得到第14列数据。即第ｉ列第ｊ行数据为

查看详细

2.3 数据向音符的转化

参照钢琴的键盘将音调分为高、中、低三个音区，规定用“c、d、e、f、g、a、b”表示低音区的七个音名；用“1、2、3、4、5、6、7”表示中音区的七个音名；用“C、D、E、F、G、A、B”表示高音区的七个音名。在音名前的“／”表示升八度；“＼”表示降八度；空白则表示不升也不降。紧跟音名后的“ｂ”表示降半音；“＃”表示升半音。从低到高依次分为大字二组、大字一组、大字组、小字组、小字一组、小字二组、小字三组、小字四组、小字五组等九个音组。除了大字二组仅含有三种音调与小字五组仅含有一种音调之外，其余七组均含有七个基本音（钢琴的白键）和五个半音（钢琴的黑键）等十二种音调。又由于有些音如“c”，它的升半音“＃c”与其相邻音“d”的降半音“bd”相同。所以我们统一规定均用前一个音的升半音表示。则一组完整的音组就由“1、2、3、4、5、6、7”七个全音加上“＃1、＃2、＃4、＃5、＃6”五个半音组成。这样就可以将音符和图像色彩对应起来： 查看详细

式中Ton：音调;Hun:像素的色彩值;MaxHue：所有像素色彩值中的最小值ＭａｘＨｕｅ：所有像素色彩值中的最大值。

节奏是音乐中的重要要素，它涉及与“时间”有关的所有因素，是音在强弱和长短两方面千变万化的组织形态。通过颜色中的色彩变化来控制节奏（音乐的变化）是容易使人接受的；另外，对于14个通道乐器的节奏分别用其各自列的数据来进行控制。并用Difference来表示各列相邻两元素色彩差值的绝对值，由公式（4）将色彩对应到11种音长(节奏速度)上。 查看详细

式中：Speed:节奏速度Difference:相邻两元素色彩差值的绝对值;MinDifference:相邻两元素色彩差值绝对值中的最小值;MaxDifference:相邻两元素色彩的差值绝对值中的最大值。

节拍采用对音长进行分类统计的算法来确定，几分音符的数量最多，就规定几分音符为一拍。

每分钟节拍数，即演奏速度与每列数据的变化快慢也有很大关系，所以我们统计出所有相邻列数据的差，找出最大差值（MaxSpeed），最小差值（MinSpeed）以及数目最多的差值（Flag）。采用式（５）进行转换： 查看详细

2.4 音符文本向MIDI音乐的转化

由于MIDI文件包含头块和音轨块两部分(5)，其格式一般如下：

MIDI文件头结构

struct MH

{

char MIDIld; MIDI文件标志MThd

long length 头块结构信息长度

int format; 存放的格式

int nTracks; 音轨数目

int PerPaiNum; 每节计数器值

}；

音轨头结构

struct TH

 {

char Trackld; 磁道标志MTrk

long length; 信息长度

}

按照MIDI文件格式的规定，将音符翻译成MIDI事件代码，加上文件头和音轨头，写入MIDI文件，加上适当的硬件设备就可将其播放出来。

本研究初步探索出了图像与音乐之间的映射关系和映射规律，提出了一种图像向音乐转化的算法，对图像向音乐的转化进行了大胆的尝试，使人们用听觉感受到了视觉享受的效果。再则本研究还具有广阔的应用领域，例如，“听名画”、“听名景”将可能成为21世纪的一种高雅文化；另外由于MIDI文件容量较小，随着世界网络化的不断发展，图像情报的音乐加密可以作为一种很好的加密手段。

　

 
 
客服热线
0755-26000950 0755-26007355
相关技术资料