当前课程知识点:大数据技术与应用 >  杨光信:数据系统架构 >  数据系统架构成本 >  数据系统架构成本

返回《大数据技术与应用》慕课在线视频课程列表

数据系统架构成本在线视频

下一节:什么是可视化

返回《大数据技术与应用》慕课在线视频列表

数据系统架构成本课程教案、知识点、字幕

好 这是第三个方面

我就想讲这么些

然后第四个方面

第四个方面就是说这个成本

成本方面的一些考虑

这个实际上就是说

我刚才也提到了

就说你要去维护这样的

一个大的一个平台的话

你实际上得有一个(英文)

这样一个团队

然后人力成本是一个方面

然后另外一个方面

你很多情况下

你维护这样一个大的平台

你并是所有的情况下

你的这些资源都会充分利用

实际上你有些资源是

很多情况下可能都是闲置的

包括到互联网公司也是一样

很多情况下你就是说

像一些电商大促的时候

你可能买很多很多的机器

买很多很多的机器

最后大促完了之后

(英文)这个流量

可能只有原来的几分之一

那这里很多的机器是要闲置的

闲置怎么办呢

在这种情况下

就是说现在有一个

实际上有一个比较

应该来说非常明显的

这样一个趋势

那么就是说在云平台上面

去提供这样一个数据服务

我们叫Data as a Service(英文)

它要做的事情

那么就是说你可以看

你要把这个数据

放到云上面去分析处理

那么实际上

你在整个的分析处理过程中间

你所需要用到的所有的工具

或者你所需要的所有处理

我在这儿列了一下

就说从这个(英文)到数据

到(英文)的这种(英文)到(英文)等等

这个每一个步骤都会涉及到

大量的这样的

一些数据处理的这样的应用

那么你要把它放到云上去

那么实际上你在云这个平台方面

当然数据的类型也可能会不一样

你对应的工具也可能会不一样

那么云平台你怎么能够

去把这些所有的这些环节

所需要的对数据

或者对工具的这种支持

能够有一个很好的这样的(抽象)

那么把这个东西

能够让用户很快的

而且是通过这种

很省成本的这样一些方式

能够把这些服务都用起来

这个就是另外一个很重要的问题

这个也就是我现在

正在做的这样的一个系统

我们叫(树枝)我们

大概它现在提供的基本上就说

我们如果把它的功能

简单的分一下的话

我们会看到就是说在最底层

我们会有一个数据集成的

这样的一个平台

就说你可以通过各种不同的方式

比如说通过这种

网上点击流这种方式

这种(英文)的这种方式

也可以说我已经有一些数据库

或者是有一些文件

我可以通过这种(英文)

这样的一些方法把这个数据传上去

然后在传的过程中间

我可能解决很多的问题

比如说像这种清洗然后匹配

然后这种(断点授权)

然后(加减幂)等等

这样的一些这些东西

你可以对外来说

你可以就说有一个工具

我可以把数据引入进去

引入进去之后

我在我的计算能力上面

你可能刚才说

现在我们也是在一个

逐步的这样一个过程中间

就说从这个平台的

后台的这个引擎来看

你可以在这儿列出来的

就是说我们有这种(英文)

有(英文)有这种(英文)

有这种文本的这种搜索的然后等等

这样的一些东西

我们在后台目前一步一步的

就是说我们希望说

能够有一个融合的东西

能够去尽可能简单的

或者是尽可能减少

各个系统之间的这种交互

但是目前这个阶段

我们基本上就是说

能够去提供这样一个平台

你可以不断的你多大的数据量

你多复杂的这种计算任务

或者是你现在能够想到的

这样的一些所需要的一些计算处理

然后都能够放在我们这个平台上

能够完成

实际上是计算平台

这方面的一些东西

然后从这个数据模型方面

实际上就是数据建模

那么传统的这种(英文)

或者是这种基于(英文)的

然后或者是一些基于(英文)

这样的一些能力

比如说你分类聚类或这种相关性

然后包括这种各种

比如说视频音频文本的

这样的一些处理

都在这个平台上

它能够有现成的

这样的一些处理的一些包

或者是APR它能够动用

然后在这上面就是说

因为数据传上去

你在上面要去做应用

做应用那么实际上

有很多这种应用开发方面的

就是这种可视化这样的支持

你这种调试的这样的一些能力

再一个就是说

在单机上用的这种IDE

这样(发挥性)的能力

但是可能更多的是

面向这种数据分析这样的一些功能

然后在这个上面就说我们可以去

构造出大量的面向普通领域的应用

或者是说能够

去在一些这种不同的横跨

横跨不同领域的这样的应用出来

然后旁边又有很多这种系统内部的

这种管理安全方面的一些功能

所以基本上就是看到就是说

从我们前面的程度

到这种系统的这种性能

然后到它的这种

可扩展的这方面一些能力

然后到它能对各种不同(英文)的支持

在这样的一个云的数据的基础上

我们都会遇到

而且你就想因为它的用户来源于

各种不同的它的用户的处理的需求

它的数据的这种特点

对于性能的需求对安全的需求

等等各方面都是千差万别的

所以在这个做一个云的平台

实际上就是我们需要去解决

前面所提到的可能所有的问题

这样就是说做这个事情

不是一朝一夕的

而是一个长期的这样的一个过程

但是我们觉得这个事情

也是非常有意义

需要去做的这样一个事儿

好 这就是我刚才提到的

就说我们做这样的

一个云的这样的一个平台的话

我们需要做的

这样一些主要的一些工作

好了 我基本上就想说这么多

那么最后总结一下

就是说从这个数据平台的

这样的一个获得数据系统

这样一个发展来看的话

就说我们还是要去把握

这样一些需求方面的一些变化

就说从系统的设计

然后到它方方面面的这些东西

包括它的这种

就是我们这种软硬件的环境

然后到它的这种需求

然后怎么去能够有一个更合适的

这样的一个体系结构的这样一个设计

这个需要去对需求有一个很好的把握

然后另外一个

就是说我们可以看到的就是说

实际上从刚才这个图上

我并不是故意的把这个最近的

这个系统画的那么多的对吧

但是确实是还有很多的系统

没有列到这个上面

当然我们可以看到就说

这个系统的复杂度越来越提高

但是我们好处就是说

现在这个世界

我们就可以有更多的这个(英文)

然后等等更好的

这样一些协作的工具来用

所以呢系统越来越复杂

但是我们的创新是在加速的

另外一个呢就是说到目前为止

我们刚才列到上面的

还没有咱们中国人原创出来的结果

我们希望

当然咱们最近这几年发展也很快

我希望是说

大家一块努力能够在这个领域

能够有咱们自己更多的中国的声音

更多的中国的影响

谢谢大家

大数据技术与应用课程列表:

李国杰:面向大数据的数据科学

-完整讲座

--完整讲座

-李国杰:面向大数据的数据科学--课后习题

吴甘沙:大数据分析师的卓越之道

-数据思维方式的改变

--数据思维方式的改变

-数据的假设与采集

--数据的假设与采集

-数据的准备

--数据的准备

-数据的分析

--数据的分析

-数据的解释与验证

--数据的解释与验证

-吴甘沙:大数据分析师的卓越之道——课后习题

董飞:硅谷公司的大数据实战分析

-个人介绍

--个人介绍

-硅谷热门公司

--硅谷热门公司

-大数据简介

--大数据简介

-大数据平台系统

--大数据平台系统

-工业实践

--工业实践

-结尾

--结尾

-董飞:硅谷公司的大数据实战分析--课后习题

杨光信:数据系统架构

-数据系统架构历史

--数据系统架构历史

-从sql到nosql

--从sql到nosql

-数据库系统实现变革

--数据库系统实现变革

-负载融合

--负载融合

-数据系统架构成本

--数据系统架构成本

-杨光信:数据系统架构——课后习题

时磊:大数据网络可视化

-什么是可视化

--什么是可视化

-网络可视化

--网络可视化

-大数据带来的新挑战

--大数据带来的新挑战

-大数据网络可视化的若干案例

--大数据网络可视化的若干案例

-时磊:大数据网络可视化—— 课后习题

彭元:网络安全与大数据

-网络安全概述

--网络安全概述

-大数据安全分析平台

--大数据安全分析平台

-大数据安全应用

--大数据安全应用

-大数据平台安全

--大数据平台安全

-彭元:网络安全与大数据——课后习题

钟义信:“人工智能与大数据”的创新研究

-人工智能系统的本质功能模型

--人工智能系统的本质功能模型

-隐性智慧,显性智慧

--隐性智慧,显性智慧

-人工智能:能与不能

--人工智能:能与不能

-人工智能的技术现状

--人工智能的技术现状

-机制主义人工智能模型

--机制主义人工智能模型

-信息转换和智能创生定律

--信息转换和智能创生定律

-人工智能与大数据

--人工智能与大数据

-钟义信:“人工智能与大数据”的创新研究——课后习题

吴军:数据为王和机器智能的时代

-什么是机器智能

--什么是机器智能

-大数据的重要性及特点

--大数据的重要性及特点

-大数据中的因果关系与关键技术

--大数据中的因果关系与关键技术

-大数据与机器智能

--大数据与机器智能

-大数据思维

--大数据思维

-讲座问答环节

--讲座问答环节

-吴军:数据为王和机器智能的时代——课后习题

苏中:从大数据到认知计算

-大数据概述

--大数据概述

-大数据相关新趋势

--大数据相关新趋势

-大数据技术创新1

--大数据技术创新1

-大数据技术创新2

--大数据技术创新2

-大数据技术创新3

--大数据技术创新3

-大数据商业价值和前景

--大数据商业价值和前景

-大数据机遇和挑战

--大数据机遇和挑战

-苏中:从大数据到认知计算——课后习题

王新锐:金融大数据的法律实践

-金融大数据概述

--金融大数据概述

-用户个人信息分类

--用户个人信息分类

-金融大数据法律框架

--金融大数据法律框架

-实际案例和业界实践

--实际案例和业界实践

-核心风险点

--核心风险点

-王新锐:金融大数据的法律实践——课后习题

刘鹏:互联网变现与计算广告

-互联网与商业化

--互联网与商业化

-大数据与计算广告

--大数据与计算广告

-计算广告介绍

--计算广告介绍

-数据交易

--数据交易

-刘鹏:互联网变现与计算广告——课后习题

杨保华:区块链与数据科学

-从记账技术到区块链

--从记账技术到区块链

-区块链确保数据真实性

--区块链确保数据真实性

-区块链确保数据安全性

--区块链确保数据安全性

-区块链衡量数据价值

--区块链衡量数据价值

-区块链的应用和总结

--区块链的应用和总结

-杨保华:区块链与数据科学——课后习题

杨紫陌:个性化内容推荐

-个性化推荐系统

--个性化推荐系统

-推荐系统的召回与排序

--推荐系统的召回与排序

-智能制作之个性化海报

--智能制作之个性化海报

-线上推荐系统其它要素

--线上推荐系统其它要素

-杨紫陌:个性化内容推荐——课后习题

陆祁:用户行为大数据

-个人介绍及用户理解背景

--个人介绍及用户理解背景

-用户理解与用户画像

--用户理解与用户画像

-案例1:用户属性识别

--案例1:用户属性识别

-案例2:自然人识别

--案例2:自然人识别

-案例3:WOI与社交关系识别

--案例3:WOI与社交关系识别

-陆祁:用户行为大数据——课后习题

阳任科:大数据与AI的内容分析

-内容智能生态——数据、算法、应用

--内容智能生态——数据、算法、应用

-大数据在内容分析的应用

--大数据在内容分析的应用

-IP价值评估系统

--IP价值评估系统

-爱奇艺的剧本评估

--爱奇艺的剧本评估

-爱奇艺的智能评分

--爱奇艺的智能评分

-阳任科:大数据与AI的内容分析——课后习题

王栋:美团外卖的大数据应用

-外卖行业及场景简介

--外卖行业及场景简介

-餐饮及外卖行业大数据应用框架

--餐饮及外卖行业大数据应用框架

-案例分析:智能营销场景的用户画像

--案例分析:智能营销场景的用户画像

-案例分析:智能助手场景的菜品画像

--案例分析:智能助手场景的菜品画像

-王栋:美团外卖的大数据应用——课后习题

赵楠:商业思维与大数据技术在美团旅行业务中的结合

-旅行业务的特点

--旅行业务的特点

-美团旅行业务的用户画像构建

--美团旅行业务的用户画像构建

-用户画像的应用案例

--用户画像的应用案例

-住宿需求预测问题

--住宿需求预测问题

-营销补贴策略建模

--营销补贴策略建模

-赵楠:商业思维与大数据技术在美团旅行业务中的结合——课后习题

陈彧:美团点评金融服务的大数据与人工智能

-互联网金融背景介绍

--互联网金融背景介绍

-互联网金融科技

--互联网金融科技

-数据智能的三个案例

--数据智能的三个案例

-技术展望

--技术展望

-陈彧:美团点评金融服务的大数据与人工智能——课后习题

毛波:阿里全息大数据构建与应用

-数据的进化历程

--数据的进化历程

-阿里DMP平台介绍

--阿里DMP平台介绍

-核心技术及案例

--核心技术及案例

-数据应用

--数据应用

-毛波:阿里全息大数据构建与应用——课后习题

韩定一:在线营销中的竞价机制与数据价值

-在线营销

--在线营销

-竞价机制

--竞价机制

-数据价值

--数据价值

-韩定一:在线营销中的竞价机制与数据价值——课后习题

龚笔宏:大数据在工业界中的经典案例分享

-竞价排名搜索

--竞价排名搜索

-主要技术问题

--主要技术问题

-点击率预测概述

--点击率预测概述

-点击率预测实践

--点击率预测实践

-龚笔宏:大数据在工业界中的经典案例分享——课后习题

[补充] 郝井华:即时配送中的人工智能

-即时配送业务的背景及挑战

--即时配送业务的背景及挑战

-案例1:订单分配策略

--案例1:订单分配策略

-案例2:供需平衡策略

--案例2:供需平衡策略

-未来展望

--未来展望

-郝井华:即时配送中的人工智能——课后习题

[补充] 陈辉:数据驱动营销

-什么是数据驱动营销

--什么是数据驱动营销

-LTV留存分析

--LTV留存分析

-RFM会员体系

--RFM会员体系

-消费者微群画像

--消费者微群画像

-渠道倾向性分析及行业竞争分析

--渠道倾向性分析及行业竞争分析

-机器学习潜客挖掘模型

-- 机器学习潜客挖掘模型

-陈辉:数据驱动营销——课后习题

[补充] 艾小缤:大数据评价体系在金融、征信领域的创新

-金融大数据时代

--金融大数据时代

-大数据客观信用

--大数据客观信用

-我国的金融环境

--我国的金融环境

-客观信用的实践

--客观信用的实践

-应用案例与成果

--应用案例与成果

-艾小缤:大数据评价体系在金融、征信领域的创新——课后习题

[补充] 郑宇:大数据驱动智能城市

-外部链接

--外部链接

讨论专题

-课程总结讨论单元1/2

-课程讨论总结单元2/2

数据系统架构成本笔记与讨论

也许你还感兴趣的课程:

© 柠檬大学-慕课导航 课程版权归原始院校所有,
本网站仅通过互联网进行慕课课程索引,不提供在线课程学习和视频,请同学们点击报名到课程提供网站进行学习。