谷歌的歌曲創(chuàng)作人工智能(AI)可能不會(huì)很快適應(yīng)莫扎特或李斯特，但它最近取得了令人印象深刻的進(jìn)展。在本周的博客文章和隨附的論文(“ 音樂(lè)變形金剛 ”)中，Google Brain項(xiàng)目“探索機(jī)器學(xué)習(xí)作為創(chuàng)作過(guò)程中的工具的角色”項(xiàng)目Magenta的貢獻(xiàn)者介紹了他們?cè)贛usical Transformer，一臺(tái)機(jī)器上的工作。學(xué)習(xí)模型能夠以可識(shí)別的重復(fù)產(chǎn)生相對(duì)連貫的曲調(diào)。

“Transformer是一種基于自我關(guān)注的序列模型，在需要保持長(zhǎng)程一致性的許多代任務(wù)中取得了令人矚目的成果，”該論文的作者寫(xiě)道。“這表明自我關(guān)注也可能非常適合音樂(lè)建模。”

正如團(tuán)隊(duì)解釋的那樣，由于其結(jié)構(gòu)復(fù)雜性，制作長(zhǎng)篇音樂(lè)仍然是人工智能的挑戰(zhàn); 大多數(shù)歌曲包含多個(gè)主題，短語(yǔ)和重復(fù)，神經(jīng)網(wǎng)絡(luò)很難接受。雖然以前的工作設(shè)法引導(dǎo)了 一些由人類(lèi)組成的作品中的自我參考可觀測(cè)量，但它依賴(lài)于絕對(duì)定時(shí)信號(hào)，使其不適合跟蹤基于相對(duì)距離和重復(fù)間隔的主題。

該團(tuán)隊(duì)的解決方案是Music Transformer，一種“基于注意力”的神經(jīng)網(wǎng)絡(luò)，可直接創(chuàng)建“富有表現(xiàn)力”的表演而無(wú)需先生成分?jǐn)?shù)。通過(guò)使用基于事件的表示和稱(chēng)為相對(duì)關(guān)注的技術(shù)，音樂(lè)變換器不僅能夠更多地關(guān)注關(guān)系特征，而且能夠超出其提供的訓(xùn)練樣本的長(zhǎng)度。而且由于它的內(nèi)存密集程度較低，因此它還能夠生成更長(zhǎng)的音樂(lè)序列。

在測(cè)試中，當(dāng)使用肖邦的Black Key Etude進(jìn)行準(zhǔn)備時(shí)，Music Transformer制作了一首風(fēng)格一致的歌曲，其中包含來(lái)自該主題的多個(gè)短語(yǔ)。相比之下，兩種先前的算法 - 性能RNN和變壓器 - 提供了完全缺乏可辨別結(jié)構(gòu)或未能保持結(jié)構(gòu)的相同引物。

該團(tuán)隊(duì)承認(rèn)音樂(lè)變形金剛遠(yuǎn)非完美 - 它有時(shí)會(huì)產(chǎn)生重復(fù)次數(shù)過(guò)多，部分稀疏，跳躍奇怪的歌曲 - 但他們希望它能成為需要靈感的音樂(lè)家的繆斯。

“這開(kāi)啟了用戶指定他們自己的入門(mén)的潛力，并使用該模型作為一種創(chuàng)造性工具來(lái)探索一系列可能的延續(xù)，”該團(tuán)隊(duì)寫(xiě)道。

他們說(shuō)，訓(xùn)練和生成音樂(lè)變換器的代碼即將出現(xiàn)，還有預(yù)先訓(xùn)練好的檢查站。