s**5
发帖数: 68 | 1 小弟刚刚开始接触dimension reduction的项目，想了解下这个领域的应用面及前景如
何，谢谢！ |
R********n
发帖数: 519 | 2 linear dimension reduction研究得很成熟了，应用效果也不错
non linear dimension reduction研究也不少，理论结果很多，但还远未令人满意
【在 s**5 的大作中提到】
: 小弟刚刚开始接触dimension reduction的项目，想了解下这个领域的应用面及前景如
: 何，谢谢！
|
d******e
发帖数: 7844 | 3 严格的说，non linear dimensionality reduction也有一些，只不过本质上还是
linear的或者用linear来近似，直接按nonlinear研究的不多
【在 R********n 的大作中提到】
: linear dimension reduction研究得很成熟了，应用效果也不错
: non linear dimension reduction研究也不少，理论结果很多，但还远未令人满意
|
R********n
发帖数: 519 | 4 恩，Machine Learning里面non linear的方法基本上都会在某个步骤用到linear
method，这个没法避免。不过出发点还是non linear的
我觉得比如manifold dimension reduction，LLE，LLC, LTSA，Laplacian等，应该是
出发点就是non linear，但是中间都会用到linear的method
【在 d******e 的大作中提到】
: 严格的说，non linear dimensionality reduction也有一些，只不过本质上还是
: linear的或者用linear来近似，直接按nonlinear研究的不多
|
d******e
发帖数: 7844 | 5 Dimensionality Reduction在Machine Leanring里快偃旗息鼓了吧。
没有大师出现来带动这个方向了，Dimensionality Reduction被国内EECS做人脸的人用
滥了，用尽各种组合来发文章，用来用去都是那几个准则。现在看到这个有抵触情绪，
哈哈
【在 R********n 的大作中提到】
: 恩，Machine Learning里面non linear的方法基本上都会在某个步骤用到linear
: method，这个没法避免。不过出发点还是non linear的
: 我觉得比如manifold dimension reduction，LLE，LLC, LTSA，Laplacian等，应该是
: 出发点就是non linear，但是中间都会用到linear的method
|
g********r
发帖数: 8017 | 6 用在那些方向的就算了。忘了在哪里看到有人说，在高维里面直接做variable
selection没法成
功，所以应该从supervised降维开始，比如用SDR之类的方法。然后再用lasso衍生物。
似乎有点
道理。
【在 d******e 的大作中提到】
: Dimensionality Reduction在Machine Leanring里快偃旗息鼓了吧。
: 没有大师出现来带动这个方向了，Dimensionality Reduction被国内EECS做人脸的人用
: 滥了，用尽各种组合来发文章，用来用去都是那几个准则。现在看到这个有抵触情绪，
: 哈哈
|
R*********r
发帖数: 225 | 7 具体说说你什么项目？
【在 s**5 的大作中提到】
: 小弟刚刚开始接触dimension reduction的项目，想了解下这个领域的应用面及前景如
: 何，谢谢！
|
R********n
发帖数: 519 | 8 对啊，呵呵，那些人脸上面的各种linear DR 或者近似linear DR，还有什么linear
subspace的方法，实在有点太多了，大同小异
【在 d******e 的大作中提到】
: Dimensionality Reduction在Machine Leanring里快偃旗息鼓了吧。
: 没有大师出现来带动这个方向了，Dimensionality Reduction被国内EECS做人脸的人用
: 滥了，用尽各种组合来发文章，用来用去都是那几个准则。现在看到这个有抵触情绪，
: 哈哈
|
R********n
发帖数: 519 | 9 哦，呵呵，请问是哪位高人
SDR是supervised dimensionality reduction吗？最近几年似乎这方面工作不少，恩，
不了解具体的，不过最早的LDA其实就是SDR的一种，还有LDA的各种变形
LASSO是用在降维之后来做regression?
【在 g********r 的大作中提到】
: 用在那些方向的就算了。忘了在哪里看到有人说，在高维里面直接做variable
: selection没法成
: 功，所以应该从supervised降维开始，比如用SDR之类的方法。然后再用lasso衍生物。
: 似乎有点
: 道理。
|
d******e
发帖数: 7844 | 10 Lasso的衍生物应该是指各种Shrink的方法吧？
【在 R********n 的大作中提到】
: 哦，呵呵，请问是哪位高人
: SDR是supervised dimensionality reduction吗？最近几年似乎这方面工作不少，恩，
: 不了解具体的，不过最早的LDA其实就是SDR的一种，还有LDA的各种变形
: LASSO是用在降维之后来做regression?
|
|
|
R********n
发帖数: 519 | 11 对，我理解的统计里面的LASSO一开始就是linear regression加上L1 norm的constrain
和后面Tao等人做的Compressive Sensing都有关系
【在 d******e 的大作中提到】
: Lasso的衍生物应该是指各种Shrink的方法吧？
|
d******e
发帖数: 7844 | 12 汗，你理解的没有错... ...
constrain
【在 R********n 的大作中提到】
: 对，我理解的统计里面的LASSO一开始就是linear regression加上L1 norm的constrain
: 和后面Tao等人做的Compressive Sensing都有关系
|
s**5
发帖数: 68 | 13 谢谢，能谈下在那些方面或领域有应用吗？
【在 R********n 的大作中提到】
: linear dimension reduction研究得很成熟了，应用效果也不错
: non linear dimension reduction研究也不少，理论结果很多，但还远未令人满意
|
g********r
发帖数: 8017 | 14 sufficient dimension reduction.就是Denis cook和他的一众弟子们积极研究的方向。
这种有response variable的降维似乎还是挺有可为的。
【在 R********n 的大作中提到】
: 哦，呵呵，请问是哪位高人
: SDR是supervised dimensionality reduction吗？最近几年似乎这方面工作不少，恩，
: 不了解具体的，不过最早的LDA其实就是SDR的一种，还有LDA的各种变形
: LASSO是用在降维之后来做regression?
|
d******e
发帖数: 7844 | 15 无监督的降维对于数据依赖太大。
向。
【在 g********r 的大作中提到】
: sufficient dimension reduction.就是Denis cook和他的一众弟子们积极研究的方向。
: 这种有response variable的降维似乎还是挺有可为的。
|
R********n
发帖数: 519 | 16 sufficient dimension reduction, got it, 去看看他们的paper
向。
【在 g********r 的大作中提到】
: sufficient dimension reduction.就是Denis cook和他的一众弟子们积极研究的方向。
: 这种有response variable的降维似乎还是挺有可为的。
|
