何谓数据规范化方法?规范化的方法有哪些

原始业务数据来自多个数据库或数据仓库,它们的结构;为数据挖掘算法提供完整、干净、准确、有针对性的数;①数据清洗:包括填充空缺值,识别孤立点,去掉噪声;需要注意不同数据源的数据匹配问题、数值冲突问题和;聚集、概化、规范化,还可能需要进行属性的重构;④数据归约:缩小数据的取值范围,使其更适合于数据;能够得到和原始数据相同的分析结果;①尽可能赋予属性名和属性值明确
原始业务数据来自多个数据库或数据仓库,它们的结构和规则可能是不同的,这将导致原始数据非常的杂乱、不可用,即使在同一个数据库中,也可能存在重复的和不完整的数据信息,为了使这些数据能够符合数据挖掘的要求,提高效率和得到清晰的结果,必须进行数据的预处理。
为数据挖掘算法提供完整、干净、准确、有针对性的数据,减少算法的计算量,提高挖掘效率和准确程度。 8. 简述数据预处理方法和内容。
① 数据清洗:包括填充空缺值,识别孤立点,去掉噪声和无关数据。 ② 数据集成:将多个数据源中的数据结合起来存放在一个一致的数据存储中。
需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。 ③ 数据变换:将原始数据转换成为适合数据挖掘的形式。包括对数据的汇总、
聚集、概化、规范化,还可能需要进行属性的重构。
④ 数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且
能够得到和原始数据相同的分析结果。 9. 简述数据清理的基本内容。
① 尽可能赋予属性名和属性值明确的含义; ② 统一多数据源的属性值编码;
③ 去除无用的惟一属性或键值(如自动增长的id);
④ 去除重复属性(在某些分析中,年龄和出生日期可能就是重复的属性,但在某
些时候它们可能又是同时需要的)
⑤ 去除可忽略字段(大部分为空值的属性一般是没有什么价值的,如果不去除可
能造成错误的数据挖掘结果)
⑥ 合理选择关联字段(对于多个关联性较强的属性,重复无益,只需选择其中的
部分用于数据挖掘即可,如价格、数据、金额)
⑦ 去掉数据中的噪音、填充空值、丢失值和处理不一致数据。 10. 简述处理空缺值的方法。 ① 忽略该记录; ② 去掉属性; ③ 手工填写空缺值; ④ 使用默认值; ⑤ 使用属性平均值; ⑥ 使用同类样本平均值; ⑦ 预测最可能的值。
11. 常见的分箱方法有哪些?数据平滑处理的方法有哪些?
分箱的方法主要有:
① 统一权重法(又称等深分箱法)
② 统一区间法(又称等宽分箱法)
③ 最小熵法 ④ 自定义区间法
数据平滑的方法主要有:平均值法、边界值法和中值法。 12. 何谓数据规范化?规范化的方法有哪些?写出对应的变换公式。
将数据按比例缩放(如更换大单位),使之落入一个特定的区域(如0.0~1.0),称为规范化。规范化的常用方法有:
(1) 最大-最小规范化: max?min
x?(x?min0)?min
(max0?min0)0
(2) 零-均值规范化:
(3) 小数定标规范化:x=x0/10
13. 数据归约的方法有哪些?为什么要进行维归约?
① 数据立方体聚集 ② 维归约 ③ 数据压缩 ④ 数值压缩 ⑤ 离散化和概念分层
维归约可以去掉不重要的属性,减少数据立方体的维数,从而减少数据挖掘处理的数据量,提高挖掘效率。 14. 何谓聚类?它与分类有什么异同?
聚类是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程,使得在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。
聚类与分类不同,聚类要划分的类是未知的,分类则可按已知规则进行;聚类是一种无指导学习,它不依赖预先定义的类和带类标号的训练实例,属于观察式学习,分类则属于有指导的学习,是示例式学习。 15. 举例说明聚类分析的典型应用。
①商业:帮助市场分析人员从客户基本库中发现不同的客户群,并且用不同的购买模式描述不同客户群的特征。
②生物学:推导植物或动物的分类,对基于进行分类,获得对种群中固有结构的认识。 ③WEB文档分类
④其他:如地球观测数据库中相似地区的确定;各类保险投保人的分组;一个城市中不同类型、价值、地理位置房子的分组等。
⑤聚类分析还可作为其他数据挖掘算法的预处理:即先进行聚类,然后再进行分类等其他的数据挖掘。聚类分析是一种数据简化技术,它把基于相似数据特征的变量或个案组合在一起。
16. 聚类分析中常见的数据类型有哪些?何谓相异度矩阵?它有什么特点?
常见数据类型有区间标度变量、比例标度型变量、二元变量、标称型、序数型以及混合类型等。相异度矩阵是用于存储所有对象两两之间相异度的矩阵,为一个nn维的单模矩阵。其特点是d(i,j)=d(j,i),d(i,i)=0,d(j,j)=0。如下所示:
?0??d(2,1)?0???d(3,1)d(3,2)0???????????d(n,1)d(n,2)......0??
17. 分类知识的发现方法主要有哪些?分类过程通常包括哪两个步骤?
分类规则的挖掘方法通常有:决策树法、贝叶斯法、人工神经网络法、粗糙集法和遗传算法。分类的过程包括2步:首先在已知训练数据集上,根据属性特征,为每一种类别找到一个合理的描述或模型,即分类规则;然后根据规则对新数据进行分类。
18. 什么是决策树?如何用决策树进行分类?
决策树是用样本的属性作为结点,用属性的取值作为分支的树结构。它是利用信息论原理对大量样本的属性进行分析和归纳而产生的。决策树的根结点是所有样本中信息量最大的属性。树的中间结点是以该结点为根的子树所包含的样本子集中信息量最大的属性。决策树的叶结点是样本的类别值。
决策树用于对新样本的分类,即通过决策树对新样本属性值的测试,从树的根结点开始,按照样本属性的取值,逐渐沿着决策树向下,直到树的叶结点,该叶结点表示的类别就是新样本的类别。决策树方法是数据挖掘中非常有效的分类方法。
19. 简述ID3算法的基本思想及其主算法的基本步骤。
首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分类。
主算法包括如下几步:
①从训练集中随机选择一个既含正例又含反例的子集(称为窗口); ②用“建树算法”对当前窗口形成一棵决策树;
③对训练集(窗口除外)中例子用所得决策树进行类别判定,找出错判的例子;
④若存在错判的例子,把它们插入窗口,重复步骤②,否则结束。
20. 简述ID3算法的基本思想及其建树算法的基本步骤。
首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树,可以用它来对新的样例进行分类。
建树算法的具体步骤如下:
①对当前例子集合,计算各特征的互信息; ②选择互信息最大的特征Ak;
③把在Ak处取值相同的例子归于同一子集,Ak取几个值就得几个子集; ④对既含正例又含反例的子集,递归调用建树算法;
⑤若子集仅含正例或反例,对应分枝标上P或N,返回调用处。
21. 设某事务项集构成如下表,填空完成其中支持度和置信度的计算。
程并说明其含义。
基本特征:①多输入、单输出;②突触兼有兴奋和抑制两种性能;③可时间加
权和空间加权;④可产生脉冲;⑤脉冲可进行传递;⑥非线性,有阈值。
M-P方程:Si?f(
??j),Wij是神经元之间的连接强度,?j是阈值,
f(x)是阶梯函数。
23. 遗传算法与传统寻优算法相比有什么特点?
① 遗传算法为群体搜索,有利于寻找到全局最优解; ② 遗传算法采用高效有方向的随机搜索,搜索效率高;
③ 遗传算法处理的对象是个体而不是参变量,具有广泛的应用领域; ④ 遗传算法使用适应值信息评估个体,不需要导数或其他辅助信息,运算速度快,适应性好;
⑤ 遗传算法具有隐含并行性,具有更高的运行效率。
24. 写出非对称二元变量相异度计算公式(即jaccard系数),并计算下表中各对象
间的相异度。
25. 简述K-平均算法的输入、输出及聚类过程(流程)。
输入:簇的数目k和包含n个对象的数据集。 输出:k个簇,使平方误差准则最小。 步骤:
① 任意选择k个对象作为初始的簇中心;
② 计算其它对象与这k个中心的距离,然后把每个对象归入离它“最近”的簇;
③ 计算各簇中对象的平均值,然后重新选择簇中心(离平均值“最近”的对象值);
④ 重复第2第3步直到簇中心不再变化为止。
26. 简述K-中心点算法的输入、输出及聚类过程(流程)。
输入:结果簇的数目k,包含n个对象的数据集
输出:k个簇,使得所有对象与其最近中心点的相异度总和最小。 流程:
① 随机选择k个对象作为初始中心点;
② 计算其它对象与这k个中心的距离,然后把每个对象归入离它“最近”的簇;
③ 随机地选择一个非中心点对象Orandom,并计算用Orandom代替Oj的总代价S;
④ 如果S&0,则用Orandom代替Oj,形成新的k个中心点集合; ⑤ 重复迭代第3、4步,直到中心点不变为止。
27. 何谓文本挖掘?它与信息检索有什么关系(异同)。
文本挖掘是从大量文本数据中提取以前未知的、有用的、可理解的、可操作的知识的过程。它与信息检索之间有以下几方面的区别:
① 方法论不同:信息检索是目标驱动的,用户需要明确提出查询要求;而文本挖掘结果独立于用户的信息需求,是用户无法预知的。
② 着眼点不同:信息检索着重于文档中字、词和链接;而文本挖掘在于理解文本的内容和结构。
③ 目的不同:信息检索的目的在于帮助用户发现资源,即从大量的文本中找到满足其查询请求的文本子集;而文本挖掘是为了揭示文本中隐含的知识。
④ 评价方法不同:信息检索用查准率和查全率来评价其性能。而文本挖掘
三亿文库包含各类专业文献、专业论文、应用写作文书、幼儿教育、小学教育、生活休闲娱乐、各类资格考试、文学作品欣赏、高等教育、57数据挖掘考试题库等内容。 
 数据挖掘试题(单选)_哲学_高等教育_教育专区。单选题 1. 某超市研究销售纪录...数据挖掘考试题库 11页 1下载券
2011年数据挖掘与数据仓... 9页 免费
数据...  数据挖掘考试题库_IT认证_资格考试/认证_教育专区。1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22...  数据挖掘考试题库_工学_高等教育_教育专区。朱明浩制作
一、 名词解释 1. 数据仓库:是一种新的数据处理体系结构,是面向主题的、集成的、不可更新 ...  数据挖掘试题一_从业资格考试_资格考试/认证_教育专区。《数据挖掘》试题一一、辨析题:请解释并辨析以下概念。 1.什么是过拟合,泛化性?并分析两者的联系和区别。 ...  寻找能解释数据的特征,也就是自变量的线 性组合来表示因变量。 线性判别式分析...数据挖掘考试题库 11页 1下载券 数据挖掘题目及答案 7页 1下载券 23 鲁班和...  数据挖掘试题 隐藏&& 单选题 1. 某超市研究销售纪录...在上题中,属于定量的属性类型是:(C) A 标称 B ...一样均来自底层的数据库系统, 两者面对的用户是相同...  2015数据挖掘技术试卷A卷-参考答案_从业资格考试_...(A 卷)参考答案 使用班级 一、填空题 (共 10 ...(1 分)扫描数据库后从候选 k-项集中指出频繁 k...  大数据试题库_IT认证_资格考试/认证_教育专区。大数据试题库选择题 1. 下列哪一项不是大数据提供的用户交互方式:(C) A. 统计分析和数据挖掘 B. 任意查询和...  数据挖掘实验考试试题 1、在 SQL Server 2005 中建立一个数据库,用自己的学号命名,在新建的数据库中建立一个数据表, 输入或导入表 1 中的数据,使用 Microsoft ...数据规范化方法对K近邻分类器的影响--《计算机工程》2010年22期
数据规范化方法对K近邻分类器的影响
【摘要】:讨论最小-最大规范化、z-score规范化及小数定标规范化3种方法对K近邻分类器性能的影响,在12个标准UCI真实数据集和1个人工数据集上进行实验比较。实验结果表明,规范化方法在大部分数据集能上提高K近邻分类器的识别率。针对实验结果研究据规范化方法提升分类器性能的内在原因,给出根据数据属性的数值分布特点决定是否使用数据规范化方法的一般准则。
【作者单位】:
【关键词】:
【基金】:
【分类号】:TP18【正文快照】:
1概述模式分类[1]是信息科学和人工智能的重要组成部分,其主要任务是对表征事务或现象的各种形式的信息进行处理和分析,对事物或现象进行分类和解释。K近邻(K-Nearest Neighbor,KNN)[2]分类算法是模式分类中广泛使用的一种标准的非参数方法,通常被用来解决概率密度函数估计和
欢迎:、、)
支持CAJ、PDF文件格式,仅支持PDF格式
【同被引文献】
中国期刊全文数据库
杨璐,严永红;[J];重庆建筑大学学报;2005年04期
徐枫,马国之,刘良旭;[J];计算机工程与设计;2004年01期
中国人民大学统计系数据挖掘中心;[J];统计与信息论坛;2002年03期
中国硕士学位论文全文数据库
卢东标;[D];武汉理工大学;2008年
【相似文献】
中国期刊全文数据库
郭亚琴;王正群;乐晓蓉;王向东;;[J];计算机工程与设计;2007年10期
王丽娟;;[J];计算机工程;2010年16期
李欢;焦建民;;[J];计算机工程与应用;2008年32期
;[J];;年期
;[J];;年期
;[J];;年期
;[J];;年期
;[J];;年期
;[J];;年期
;[J];;年期
中国重要会议论文全文数据库
章小强;管霖;;[A];中国高等学校电力系统及其自动化专业第二十四届学术年会论文集(中册)[C];2008年
&快捷付款方式
&订购知网充值卡
400-819-9993
《中国学术期刊(光盘版)》电子杂志社有限公司
同方知网数字出版技术股份有限公司
地址:北京清华大学 84-48信箱 大众知识服务
出版物经营许可证 新出发京批字第直0595号
订购热线:400-819-82499
服务热线:010--
在线咨询:
传真:010-
京公网安备75号君,已阅读到文档的结尾了呢~~
规范化-数据库设计原则
扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
规范化-数据库设计原则
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer--144.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口

我要回帖

更多关于 关系数据库规范化 的文章

 

随机推荐