香港故事|人機(jī)交互音樂(lè)會(huì):唱響不一樣的《東方之珠》
新華社香港7月17日電題:人機(jī)交互音樂(lè)會(huì):唱響不一樣的《東方之珠》
新華社記者 陸敏
“小河彎彎向南流,流到香江去看一看……”
歌聲響起處,大屏幕上五彩斑斕的3D音畫(huà)隨著旋律“起舞”,晶瑩欲滴的珠子不斷幻變出城市、海港、船帆,還有月色和燈火,水母在玫瑰色的天空中游弋,巨大的海浪卷出彩虹……
一場(chǎng)別開(kāi)生面的音樂(lè)會(huì)14日在香港大會(huì)堂音樂(lè)廳舉行,擔(dān)任指揮的是香港浸會(huì)大學(xué)交響樂(lè)團(tuán)音樂(lè)總監(jiān)潘明倫。在真人樂(lè)團(tuán)的現(xiàn)場(chǎng)伴奏下,300多個(gè)虛擬人聲合唱一曲《東方之珠》,配上由人工智能為歌曲創(chuàng)作的3D音畫(huà),瑰麗奇幻,氣勢(shì)恢宏。
“這應(yīng)該是全球首場(chǎng)同類的人機(jī)合作表演!比斯ぶ悄軐<摇⒔䲡(huì)大學(xué)副校長(zhǎng)郭毅可說(shuō),“人和機(jī)器共同創(chuàng)作和完成一個(gè)藝術(shù)作品,我們做到了!
這是浸會(huì)大學(xué)“香港人機(jī)共生藝術(shù)創(chuàng)造平臺(tái)技術(shù)建設(shè)”項(xiàng)目拿出的第一份成績(jī)單。這一項(xiàng)目去年獲得香港特區(qū)政府撥款5200多萬(wàn)港元,開(kāi)展為期5年的藝術(shù)科技研究。
組建人工智能“合唱團(tuán)”
今年是香港回歸祖國(guó)25周年,項(xiàng)目團(tuán)隊(duì)首先想到了歌曲《東方之珠》。“用人機(jī)交互的方式進(jìn)行再創(chuàng)作,以此送上我們的祝福。”負(fù)責(zé)該項(xiàng)目的郭毅可說(shuō)。
第一個(gè)挑戰(zhàn)是“組建”320個(gè)虛擬歌手組成的人工智能“合唱團(tuán)”。
通過(guò)收集專業(yè)歌手的錄音歌曲,他們提取和分解了聲樂(lè)的主要特點(diǎn),開(kāi)發(fā)了聲樂(lè)的生成模型,成功創(chuàng)建了一個(gè)四聲部的合唱,同時(shí)通過(guò)8個(gè)人的人聲采樣,生成320個(gè)具有全新音色的虛擬歌手,“組建”成團(tuán)。
虛擬歌手們開(kāi)始“唱”得并不好,會(huì)唱錯(cuò)、唱不上高音甚至破音跑調(diào)!奥曇艟褪穷l率,教它們學(xué)唱歌不算太難,就是需要不斷地通過(guò)調(diào)整頻率進(jìn)行改善!惫憧烧f(shuō)。
第二個(gè)挑戰(zhàn)是表演時(shí)的人機(jī)互動(dòng)。在舞臺(tái)上,指揮和樂(lè)團(tuán)是真人,虛擬歌手們要學(xué)會(huì)“聽(tīng)”指揮的指令,做到與交響樂(lè)團(tuán)的現(xiàn)場(chǎng)演奏無(wú)縫銜接,而這并非易事。
記者在彩排現(xiàn)場(chǎng)看到,指揮潘明倫脫去了西裝,他的腰上、肩上、手臂和手腕處都綁著裝有傳感器的綁帶,他不時(shí)停下指揮,與臺(tái)下的技術(shù)團(tuán)隊(duì)進(jìn)行溝通磨合。
傳感器的作用是把指揮的肢體動(dòng)作“同聲傳譯”給人工智能合唱系統(tǒng)。“難點(diǎn)也在于此,指揮的手勢(shì)不是固定的,需要有個(gè)模糊邏輯讓系統(tǒng)學(xué)習(xí)。開(kāi)始挺亂的,現(xiàn)在越練越好了。”郭毅可說(shuō)。
經(jīng)過(guò)長(zhǎng)達(dá)半年的科研攻關(guān)和人機(jī)磨合,浸大的人工智能合唱團(tuán)成功地完成了與真人交響樂(lè)團(tuán)的合作。
人工智能眼里的“東方之珠”
最大的突破來(lái)自人工智能的“創(chuàng)作”。配合歌曲意境,人工智能自主創(chuàng)作的3D音畫(huà),用天馬行空的想象力和表現(xiàn)力向人類描述了它眼中的“東方之珠”。
在這段時(shí)長(zhǎng)約4分鐘的3D音畫(huà)里,人工智能共生成近3000張圖像,且畫(huà)面之間邏輯順暢,并與《東方之珠》的歌詞和旋律相匹配。“根據(jù)歌詞內(nèi)容不斷變化,動(dòng)態(tài)生成各種場(chǎng)景。鏡頭設(shè)計(jì)了一個(gè)虛擬的飛行視角,其速度和高度隨旋律而變化,音量高就飛得高;節(jié)奏快,速度也會(huì)加快。”郭毅可說(shuō)。
剛開(kāi)始的時(shí)候,團(tuán)隊(duì)只是讓人工智能根據(jù)歌詞生成一幅幅畫(huà),將它們簡(jiǎn)單連接。隨著探索的深入,他們開(kāi)始嘗試讓人工智能“創(chuàng)作”三維視頻。“這需要對(duì)歌詞內(nèi)容系統(tǒng)地理解,而且邏輯必須連貫,并且自動(dòng)生成。這個(gè)時(shí)候我們的創(chuàng)新就開(kāi)始了!惫憧烧f(shuō)。
要做到這一點(diǎn),首先要讓機(jī)器學(xué)會(huì)理解歌詞的文字內(nèi)涵,人“教會(huì)”機(jī)器了解一些相對(duì)應(yīng)的關(guān)系,比如香江代表著香港,“珠”的意象要成為貫穿音畫(huà)的主線等,在此基礎(chǔ)上讓機(jī)器自主想象,自行創(chuàng)作。而在機(jī)器完成創(chuàng)作后,具備不具備美感和意義則需要人來(lái)反饋,并幫助它修正。
“這就是人機(jī)交互的創(chuàng)作!惫憧烧f(shuō),“我們開(kāi)發(fā)了一個(gè)人工智能驅(qū)動(dòng)的媒體藝術(shù)家模型,‘東方之珠’音畫(huà)是我們向超級(jí)人工智能藝術(shù)家目標(biāo)邁出的重要一步!
讓科技賦能藝術(shù)
在以往的人工智能藝術(shù)創(chuàng)作中,一個(gè)傳統(tǒng)的思路是機(jī)器模仿人。郭毅可對(duì)此并不認(rèn)同。他認(rèn)為,在藝術(shù)創(chuàng)作領(lǐng)域,人工智能有自己獨(dú)特的創(chuàng)造能力。隨著人機(jī)交互技術(shù)的進(jìn)步,它的創(chuàng)作可以跟人不一樣,也可以被人理解和欣賞,并可能隨著人對(duì)美學(xué)的需求而不斷改進(jìn)。
“科學(xué)上的突破往往最先來(lái)自于觀念,我認(rèn)為我們中國(guó)人有這個(gè)能力,不在人家的話語(yǔ)體系里轉(zhuǎn)圈圈。我們這次的創(chuàng)新在于理念變了,由此找到了新的突破點(diǎn)!惫憧烧f(shuō)。
《東方之珠》音畫(huà)第一版,整個(gè)圖像投影在一顆珠子上,然后珠子一層層打開(kāi),到“流到香江去看一看”時(shí),突然幻變成了一朵紫荊花!拔覀兌俭@呆了,‘香江’的概念居然會(huì)以一朵紫荊花的形態(tài)展現(xiàn),非常奇妙,這就是機(jī)器的創(chuàng)造力!彼f(shuō)。
如果相信機(jī)器能夠創(chuàng)造,那么未來(lái)的藝術(shù)會(huì)是什么樣?這個(gè)問(wèn)題令郭毅可和他的團(tuán)隊(duì)興奮。郭毅可認(rèn)為,科技賦能藝術(shù),人機(jī)達(dá)成更多的互動(dòng)與交流,為藝術(shù)的發(fā)展帶來(lái)全新的可能。
下一步,人機(jī)互動(dòng)要向更深層次探索,比如連接意識(shí)、情感!拔覀兛梢园衙栏芯幋a,讓機(jī)器認(rèn)識(shí)美感,然后讓美感成為它創(chuàng)作的一部分,這是我們研究的一個(gè)重要方向。”郭毅可說(shuō)。
郭毅可希望將來(lái)能人機(jī)合作創(chuàng)作一部歌劇,將編、導(dǎo)、演、唱集成展現(xiàn)!疤剿鳠o(wú)止境,沒(méi)有什么是不可能的!彼f(shuō)。