カーネルマシンの多次元パス追跡とオンライン学習

内核机多维路径追踪与在线学习

基本信息

批准号：
10J08773
负责人：
烏山昌幸
金额：
$ 0.9万
依托单位：
Tokyo Institute of Technology (2011)Nagoya Institute of Technology (2010)
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2010
资助国家：
日本
起止时间：
2010 至 2011
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-10J08773/
关键词：
機械学習カーネルマシン最適化パラメトリック最適化

项目摘要

コンピュータによるデータ解析が一般的になってきた近年では,大規模かつ複雑なデータを統計的に処理する必要性が増している.機械学習と呼ばれる分野では多様なデータに潜む規則性や有益な情報をコンピュータによって自動的に抽出するアルゴリズムの開発を目指す.その中でも本課題ではカーネルマシンと呼ばれる多変量解析の手法について研究を行っている.カーネルマシンは有用なデータ解析法ではるが,実際にはその最適化の計算コストが大きな問題となる場合がある.本研究ではカーネル法における効率のよい最適化アルゴリズムの開発を行い,その有効性を示してきた.本年度は特に(1)データの重要度変化に対する高速最適化法の研究,(2)カーネルマシンの非線形パス追跡,(3)近似解追跡によるパス追跡高速化,(4)カーネルマシンのためのデータ次元削減法,の4つのトピックについて研究を実施した.それぞれのトピックについてカーネルマシンの最適化効率を様々な場面で向上させる基礎アルゴリズムの開発を行い,そのいくつかについては実用的な応用事例についての考察も行った.各分野でデータの肥大化が進み,高速な解析アルゴリズムが求められている昨今の状況を鑑みるに,この功績は社会的な意義があると考えている.また,今年度の研究実施計画に則って各トピックについて国際学会や国際論文誌での発表・投稿を行った.(1)に関しては国際会議MLSPで発表を行い,論文誌に投稿した.(2)に関しては論文誌IEEE Trans. on Neural Networkに,(3)に関しては国際会議ICMLに採録された.(4)に関しては論文の投稿を行っている.

近年来，随着基于计算机的数据分析变得普遍，对大规模和复杂数据进行统计处理的需求越来越大。机器学习领域研究隐藏在各种数据中的规律和有用信息。开发一种自动提取的算法核机是一种有用的数据分析方法，但在实践中，优化的计算成本可能是一个大问题。在本研究中，我们将使用核方法开发一种高效的优化算法。今年，我们将重点关注（1）。针对数据重要性变化的高速优化方法研究，以及（2）非线性核机开发。我们对四个主题进行了研究：路径跟踪，（3）通过近似解跟踪加速路径跟踪，以及（4）内核机的数据降维方法。对于每个主题，我们改变了内核机的优化效率。我们开发了基本的。算法来提高各种情况下的性能，并且还考虑了其中一些的实际应用示例。我们认为，考虑到最近数据不断扩大和需要高速分析算法的情况，这一成果具有社会意义。我在国际会议和国际期刊上提出并提交了主题（1），我在国际上做了演讲。关于（2），我在 IEEE 杂志上发表了会议 MLSP 并将其提交给期刊。 Trans. on Neural Network，并且（3）已被国际会议 ICML 接收。关于（4），我们已经提交了一篇论文。

项目成果

期刊论文数量（0）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

Nonlinear regularization path for the modified Huber loss Support Vector Machines

改进的 Huber 损失支持向量机的非线性正则化路径

DOI：
10.1109/ijcnn.2010.5596869
发表时间：
2010-07-18
期刊：
The 2010 International Joint Conference on Neural Networks (IJCNN)
影响因子：
0
作者：
Masayuki Karasuyama;I. Takeuchi
通讯作者：
I. Takeuchi

Canonical dependency analysis based on squared-loss mutual information

基于平方损失互信息的规范依赖分析

DOI：
10.1016/j.neunet.2012.06.009
发表时间：
2011-08-29
期刊：
Neural networks : the official journal of the International Neural Network Society
影响因子：
0
作者：
Masayuki Karasuyama;Masashi Sugiyama
通讯作者：
Masashi Sugiyama

Solution Path Algorithm for Twin Multi-class Support Vector Machine

双多类支持向量机的解路径算法