流行病导致所有离线会议都按下暂停按钮,而AI也不例外。
但是,年度“高层会议”无法召开,因此在4月26日,ICLR(国际代表性学习会议)采用了虚拟会议的形式,所有网民都可以参加盛会。
值得一提的是,本次ICLR会议接受了2,篇论文中的篇,吸引了来自近90个国家/地区的5,多名与会者,是年2,篇论文的两倍。
在这种情况下,是否有任何新事物值得我们考虑和探索?
然后,我不得不提到图灵奖获得者,蒙特利尔学习算法研究所所长YoshuaBengio所强调的“AI唤醒”。
在我们普及科学之前,一般的人工智能有多远。人工智能如何在短短几年内醒来?这必须从Bengio视为机器学习杀手的注意力机制开始。
将意识注入机器:注意力机制增加了另一项任务
脑极体的高级读者应该熟悉注意力机制。在机器学习任务中,例如图像处理,语音识别和自然语言处理,过去两年中引入了注意力模型。
在行业中如此受欢迎,其特点自然是突出的:
一种是让神经网络学习仅专注于特定部分,从而大大提高任务的有效性和效率。在诸如神经机器翻译,预训练语言模型和图像识别等任务中,它已显示出前所未有的结果。根据Bahdanau等。在年提出了
转载请注明:http://www.0431gb208.com/sjszlff/5602.html