当我们备受启迪时,常常可以将它们写成一篇心得体会,如此就可以提升我们写作能力了。大家想知道怎么样才能写得一篇好的心得体会吗?以下是小编帮大家整理的心得体会范文,欢迎大家借鉴与参考,希望对大家有所帮助。
数据员工作心得体会篇一
通过两周的课程设计,完成了预定的目标,其中有很多的随想。老师的题目发下来的很早,大概提前了3周,当时就着手搜索有关线索二叉树的思想,思路,借了一本《数据结构-c语言描述》,在大体上就有了一个轮廓,先是输入二叉树,在对二叉树进行线索化,依次往下,但在具体实现时,遇到了很多问题:首先是思想的确定,其非常重要,以前有了这个想法,现在愈加清晰起来,因此,花了大量的时间在插入删除的具体操作设计上,大概三个晚上的时间,对其中什么不清晰明确之处均加以推敲,效果是显著的,在上机上相应的节约了时间。
通过具体的实验编码,思路是对的,但是在小问题上摔了一次又一次,大部分时间都是花在这方面,这个节点没传过来啊之类的,以后应该搞一个小册子,记录一些错误的集合,以避免再犯,思想与c语言联系起来,才是我们所需要的,即常说的理论与实践的关系。
数据结构是基础的一门课,对于有过编程经验的人,结合自己的编程体会去悟它的思想;而且我觉得随着编程经历的丰富对它的体会越深入,最初接触是对一些思想可能只是生硬的记忆,随着学习的深入逐渐领悟了很多。看了这次课程设计的`题目,虽然具体要求没有看清,但是总结一下,可以看出,其需要我们能把一个具体案例或一件事情反映为程序来表达,数据结构就是桥梁,通过自己的设计,使应用能力得以融汇,对与问题,具有了初步的分析,继而解决之的能力,感觉对以后的学习会有很大的帮助,学习无非是用于实践。
认识到自己的不足,希望能有进一步的发展。
数据员工作心得体会篇二
读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。
“在小数据时代,我们会假象世界是怎样运作的,然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡,我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法,也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴,因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大,太权威,太基本了,我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点,毕竟还是在前面加上了“很可能认为”这样的保护伞。
近几十年,我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立,要改变自己的传统,跟上时代的脚步。即使脑子还跟不上,嘴巴上也必须跟上,否则可能会被扣上思想僵化甚至阻碍世界发展的大帽子。既然大数据是“通往未来的必然改变”,那我就必须“不受限于传统的思维模式和特定领域里隐含的固有偏见”,跟作者一起先把统计学和量子力学否定掉再说。反正我也不喜欢、也学不会它们。
当我们人类的数据收集和处理能力达到拍字节甚至更大之后,我们可以把样本变成全部,再加上有能力正视混杂性而忽视精确性后,似乎真的可以抛弃以抽样调查为基础的统计学了。但是由统计学和量子力学以及其他很多“我们也很可能认为我们不再需要的”理论上溯,它们几乎都基于一个共同的基础——逻辑。要是不小心把逻辑或者逻辑思维或者逻辑推理一起给“不再需要”的话,就让我很担心了!
《大数据时代》第16页“大数据的核心就是预测”。逻辑是——描述时空信息“类”与“类”之间长时间有效不变的先后变化关系规则。两者似乎是做同一件事。可大数据要的“不是因果关系,而是相关关系”,“知道是什么就够了,没必要知道为什么”,而逻辑学四大基本定律(同一律、矛盾律、排中律和充足理由律)中的充足理由律又“明确规定”任何事物都有其存在的充足理由。且逻辑推理三部分——归纳逻辑、溯因逻辑和演绎逻辑都是基于因果关系。两者好像又是对立的。在同一件事上两种方法对立,应该只有一个结果,就是要否定掉其中之一。这就是让我很担心的原因。
可我却不能拭目以待,像旁观者一样等着哪一个“脱颖而出”,因为我身处其中。问题不解决,我就没法思考和工作,自然就没法活了!更何况还有两个更可怕的事情。
其一:量子力学搞了一百多年,为了处理好混杂性问题,把质量和速度结合到能量上去了,为了调和量子力学与相对论的矛盾,又搞出一个量子场论,再七搞八搞又有了虫洞和罗森桥,最后把四维的时空弯曲成允许时间旅行的样子,恨不得马上造成那可怕的时间旅行机器。唯一阻止那些“爱因斯坦”们“瞎胡闹”的就是因果关系,因为爸爸就是爸爸,儿子就是儿子。那么大数据会不会通过正视混杂性,放弃因果关系最后反而搞出时间机器,让爸爸不再是爸爸,儿子不再是儿子了呢?其二:人和机器的根本区别在于人有逻辑思维而机器没有。《大数据时代》也担心“最后做出决策的将是机器而不是人”。如果真的那一天因为放弃逻辑思维而出现科幻电影上描述的机器主宰世界消灭人类的结果,那我还不如现在就趁早跳楼。
还好我知道自己对什么统计学、量子力学、逻辑学和大数据来说都是门外汉,也许上面一大篇都是在胡说八道,所谓的担心根本不存在。但问题出现了,还是解决的好,不然没法睡着觉。自己解决不了就只能依靠专家来指点迷津。
所以想向《大数据时代》的作者提一个合理化建议:把这本书继续写下去,至少加一个第四部分——大数据时代的逻辑思维。
大数据的心得体会篇4
数据员工作心得体会篇三
假数据,指的是在实验科学、统计学和计算机科学等领域中使用的模拟测试数据,其目的是为了进行模型验证、算法优化和系统调试等工作。通过模拟的方式生成的假数据可以在很大程度上降低实验成本和风险,提高系统的鲁棒性和稳定性。在接触假数据的过程中,我不仅深刻体会到了假数据的重要性,也发现了一些需要注意的问题。以下是我对于假数据的心得体会。
首先,假数据是模拟实际情况的重要工具。在许多场景下,我们很难获得足够的真实数据来进行测试和分析。此时,假数据可以起到填补空白的作用。通过合理构造和模拟,我们可以生成具有各种特征和分布的数据,以覆盖实际情况下的各种可能性。这样一来,我们就可以在没有真实数据的情况下进行系统调试和性能测试,大大提高了工作的效率和准确性。
其次,假数据应当具有真实性可靠性。生成假数据的过程中,我们需要根据实际情况和已知的背景知识来确定数据的生成规则和参数设置。这需要对待模拟的对象进行充分了解和研究。仅凭主观臆测和随意设置参数所生成的假数据可能是不准确甚至误导性的。因此,我们在生成假数据时必须注重其真实性和可靠性,尽量接近真实情况,保证模拟结果的准确性和可信度。
第三,假数据应当涵盖全面。假数据是模拟实际情况的工具,但并不意味着模拟的结果就是完全准确的实际情况。在生成假数据时,我们需要充分考虑实际情况下可能出现的各种因素和变动。例如,在模拟人口流动情况时,除了要考虑人口数量和分布的变化外,还要考虑到人口迁移、交通流量、自然灾害等影响因素。只有从多个角度和多个方面进行模拟,才能更加接近实际情况,提高假数据的可靠性和可行性。
第四,假数据应当与实际情况相匹配。尽管假数据是模拟生成的,但我们在进行模拟时必须尽量与实际情况保持一致。例如,在模拟商品销售情况时,我们需要考虑到不同产品的特性、市场需求、销售渠道等各种因素。只有假数据与实际情况相匹配,我们才能通过对假数据的分析和预测,得出对真实情况的有益启示,为实际工作提供参考和支持。
最后,要善于利用和分析假数据。假数据生成完成后,我们需要对其进行详细的分析和研究,从中获取有益的信息和结论。通过对假数据的比较、统计和建模等分析手段,我们可以了解到模拟情况下的整体趋势和变化规律,为实际工作的决策和安排提供依据。同时,对假数据的分析和发现也会不断促进我们对实际情况的认识和理解,使我们的工作更加科学和有效。
综上所述,假数据作为一种模拟工具,在实验科学、统计学和计算机科学等领域中发挥着重要作用。通过对假数据的生成、分析和应用,我们可以在一定程度上弥补真实数据的不足,提高工作效率和准确性。因此,在使用假数据时,我们需要注重其真实性可靠性、全面性和与实际情况的匹配度。只有善于利用和分析假数据,我们才能更好地应对实际工作的挑战,为科学研究和技术创新提供有力支持。
数据员工作心得体会篇四
通过这次课程设计使我进一步达到理论与实际相结合,提高了自己组织数据及编写程序的能力,使我们能够根据问题要求和数据对象的特性,学会数据组织的方法,把现实世界中的实际问题在计算机内部表示出来并用软件解决问题,培养良好的程序设计技能,掌握设计程序的思路,学会用计算机语言编写程序,以实现所需处理的任务,锻炼自己的动脑能力,学会用自己的思路解决现实中的实际问题,虽然一开始也走了一些弯路不过在同学和老师的'点拨下完成了该程序,这次课程设计中遇到了很多问题,一开始准备用二维数组存放的可考虑到同一个学校同一个项目有好几个人参加,就不能用二维数组了,如果每个学校都申请一个二维数组也非常不方便,还是用顺序表方便也不浪费空间,在这次课程设计的过程中虽然很多次都参照了课本及资料,不过这使我更加熟悉了顺序表以及结构体的定义及实现,调试过程中也遇到了一些问题也都是自己独立思考完成的,还有一个体会是,遇到不会的地方可以参考课本也可以去图书馆或网上查资料,当然主要思路有了也就简单点了。在老师的答辩指指导下,程序数组那块程序的书写老师问我为什么是那样的,当时写这块程序的时候是看书上数组那块程序再加上自己的主观想法觉得就是这样写的,虽然这块程序当时那种主观想法是写对了,但是经过老师的答辩提问才知道虽然是写对了,但是这种思考和想法是错误不科学的,真正的是因为第2次循环是因为第一次释放了一个。所以通过这次课程设计让我懂得了一个很重要的道理,就是以后如果哪地方有一点迷惑,有一点不懂的地方不能凭自己主观的思考和想法觉得应该是这样的,一定要找老师问清楚为什么是这样的,一定要把每步每个小程序都要搞的十分的清楚,这真是个很好的收获。还有就是这个程序的男女问题上,开始准备在结构体中加一个sex的点,大使那样对与男女项目还是有点麻烦,后来在同学的提醒下,通过参赛项目号就可以解决了,比m大就是女子项目,比m小或者等于m就是男子项目。这样就可以很完美地解决这个问题了。
其实,当你实验遇到问题时,自己会通过很多途径去解决它,没有解决时,心急如焚,解决之后的那种快感是前所未有的,这也许就是付出了行动之后的收获吧!
这也教会了我们以后在社会上,遇见了事情不可怕,只要不被困难击倒,解决了它,那样我们就是胜利的!
xxx
数据员工作心得体会篇五
大数据的初衷就是将一个公开、高效的政府呈现在人民眼前。你知道数据报告心得体会是什么吗?接下来就是本站小编为大家整理的关于数据报告心得体会,供大家阅读!
现在先谈谈我个人在数据分析的经历,最后我将会做个总结。
大学开设了两门专门讲授数据分析基础知识的课程:“概率统计”和“高等多元数据分析”。这两门选用的教材是有中国特色的国货,不仅体系完整而且重点突出,美中不足的是前后内在的逻辑性欠缺,即各知识点之间的关联性没有被阐述明白,而且在应用方面缺少系统地训练。当时,我靠着题海战术把这两门课给混过去了,现在看来是纯忽悠而已。(不过,如果当时去应聘数据分析职位肯定有戏,至少笔试可以过关)。
抱着瞻仰中国的最高科研圣地的想法,大学毕业后我奋不顾身的考取了中科院的研究生。不幸的是,虽然顶着号称是高级生物统计学的专业,我再也没有受到专业的训练,一切全凭自己摸索和研究(不过,我认为这样反而挺好,至少咱底子还是不错的,一直敏而好学)。首先,我尽全力搜集一切资料(从大学带过来的习惯),神勇地看了一段时间,某一天我突然“顿悟”,这样的学习方式是不行的,要以应用为依托才能真正学会。然后呢,好在咱的环境的研究氛围(主要是学生)还是不错滴,我又轰轰烈烈地跳入了paper的海洋,看到无数牛人用到很多牛方法,这些方法又号称解决了很多牛问题,当时那个自卑呀,无法理解这些papers。某一天,我又“顿悟”到想从papers中找到应用是不行的,你得先找到科学研究的思路才行,打个比方,这些papers其实是上锁的,你要先找到钥匙才成。幸运的是,我得到了笛卡尔先生的指导,尽管他已经仙游多年,他的“谈谈方法”为后世科研界中的被“放羊”的孤儿们指条不错的道路(虽然可能不是最好地,the better or best way要到国外去寻找,现在特别佩服毅然出国的童鞋们,你们的智商至少领先俺三年)。好了,在咱不错的底子的作用下,我掌握了科研方法(其实很简单,日后我可能会为“谈谈方法”专门写篇日志)。可惜,这时留给咱的时间不多了,中科院的硕博连读是5年,这对很多童鞋们绰绰有余的,但是因本人的情商较低,被小人“陷害”,被耽搁了差不多一年。这时,我发挥了“虎”(东北话)的精神,选择了一个应用方向,终于开始了把数据分析和应用结合的旅程了。具体过程按下不表,我先是把自己掌握的数据分析方法顺次应用了,或者现成的方法不适合,或者不能很好的解决问题,当时相当的迷茫呀,难道是咱的底子出了问题。某一天,我又“顿悟”了,毛主席早就教育我们要“具体问题具体分析”,“教条主义”要不得,我应该从问题的本质入手,从本质找方法,而不是妄想从繁多的方法去套住问题的本质。好了,我辛苦了一段时间,终于解决了问题,不过,我却有些纠结了。对于数据发分析,现在我的观点就是“具体问题具体分析”,你首先要深入理解被分析的问题(领域),尽力去寻找问题的本质,然后你只需要使用些基本的方法就可以很好的解决问题了,看来“20/80法则”的幽灵无处不在呀。于是乎,咱又回到了原点,赶紧去学那些基础知识方法吧,它们是很重要滴。
这里,说了一大堆,我做过总结:首先,你要掌握扎实的基础知识,并且一定要深入理解,在自己的思维里搭建起一桥,它连接着抽象的数据分析方法和现实的应用问题;其次,你要有意识的去训练分析问题的能力;最后,你要不断的积累各方面的知识,记住没有“无源之水”、“无根之木”,良好的数据分析能力是建立在丰富的知识储备上的。
有人说生活像一团乱麻,剪不断理还乱;我说生活像一团乱码,尽管云山雾罩惝恍迷离,最后却总会拨云见日雨过天晴。维克托迈尔舍恩伯格就把这团乱码叫做大数据,在他的这本书里,试图给出的就是拨开云雾见青天的玄机。
这玄机说来也简单,就是放弃千百年来人们孜孜追求的因果关系转而投奔相关关系。说来简单,其实却颠覆了多少代人对真理探求的梦想。我觉得作者是个典型的实用主义者,在美帝国主义万恶的压迫和洗脑下,始终追逐性价比和利益最大化,居然放弃了追求共产主义真理最基本的要求!不像我们在天朝光芒的笼罩下,从小就开始学习和追求纯粹的共产主义唯心科学历史文化知识啦!这或许就是我们永远无法获得诺贝尔奖、永远无法站在科技最前沿的根本原因吧。其实小学时候,我就想过这个问题,相信所有的人都问过类似的问题,例如现在仍然很多人在问,妈的从来没人知道我每天摆摊赚多少钱,你们他妈的那人均收入四五千是怎么算出来的。中国是抽样的代表,因为中国人最喜欢用代表来表现整体,最典型的例子莫过于公布的幸福指数满意指数各种指数永远都高于你的预期,你完全不清楚他是怎么来的,一直到最后汇总成三个代表,真心不清楚它到底能代表了啥。说这么多显得自己是个愤青,其实只是想表达“样本=总体”这个概念在科技飞速发展的今天,在世界的不同角落,还是会体现出不同的价值,受到不同程度的对待及关注。在大数据观念的冲击下,我们是不是真的需要将平时关注的重点从事物内在的发展规律转移到事物客观的发生情况上。
大数据的出现,必然对诸多领域产生极大的冲击,某些行业在未来十年必将会得到突飞猛进的发展,而其他一些行业则可能会消失。这是废话,典型的三十年河东三十年河西的道理,就像三十年前的数理化王子们,现在可能蜷缩在某工厂的小角落里颤颤巍巍的修理机器;就像三十年前职业高中的学生才学财会学银行,如今这帮孙子一个个都开大奔养小三攒的楼房够给自己做墓群的了;当然也不乏像生物这种专业,三十年前人们不知道是干啥的,三十年后人们都知道没事别去干,唯一可惜的是我在这三十年之间的历史长河中却恰恰选了这么一个专业,这也是为什么我现在在这写读后感而没有跟姑娘去玩耍的原因。其实乍一看这个题目,我首先想到的是精益生产的过程控制,比如六西格玛,这其实就是通过对所有数据的分析来预测产品品质的变化,就已经是大数据的具体应用了。
而任何事物都会有偏差,会有错误,也就是说,这全部的数据中,肯定是要出现很多与总体反应出的规律相违背的个体,但是无论如何这也是该事件中一般规律的客观体现的一种形式,要远远好过从选定的样本中剔除异常值然后得到的结论。换句话说,也大大减少了排除异己对表达事物客观规律的影响。就好比是统计局统计中国人民的平均收入一样,这些数怎么这么低啊,这不是给我们国家在国际社会上的形象抹黑么,删掉删掉;这些数怎么这么高啊,这还不引起社会不满国家动荡啊,删掉删掉。所以说,大数据至少对反应客观事实和对客观事实做预测这两个方面是有非常积极地意义的。而这个新兴行业所体现的商机,既在如何利用数据上,又在如何取得数据上。
先说数据的利用,这里面表达的就是作者在通书中强调的对“相关关系”的挖掘利用。相关关系与因果关系便不再赘述,而能够对相关关系进行挖掘利用的企业其实缺不多,因为可以相信未来的大数据库就像现在的自然资源一样,必将因为对利益的追逐成为稀缺资源,而最终落在个别人或企业或部门的手中。想想无论当你想要做什么事情的时候,都有人已经提前知道并且为你做好了计划,还真是一件甜蜜而又令人不寒而栗的事情。
而对于数据的获取,我觉得必然是未来中小型企业甚至个人发挥极致的创造力的领域。如何在尽可能降低成本的情况下采集到越多越准确的数据是必然的发展趋势,鉴于这三个维度事实上都无法做到极致,那么对于数据获取方式的争夺肯定将成就更多的英雄人物。
现在回头从说说作者书中的观点中想到的,p87中关于巴斯德的疫苗的事件,描述了一个被疯狗咬伤的小孩,在接种了巴斯德的狂犬疫苗后成功幸存,巴斯德成了英雄的故事。这是个非常有意思的案例,因为小孩被狗咬伤而患病的概率仅为七分之一,也就是说,本事件有85%的概率是小孩根本就不会患病。那么小孩的生命到底是不是巴斯德救的,而这疫苗到底是有效没效,通过这个事件似乎根本就没有办法得到验证。这就好比某人推出个四万亿计划,但实际上国际经济形势就是好转,哪怕你只推出个二百五计划,gdp都会蹭蹭的往上涨,而且又不会带来四万亿导致的严重通胀、产能过剩、房价泡沫等问题。那你说这四万亿到底是救了国还是误了国?回到我自己的工作领域上来,安全工作,我们一直遵循的方向都是寻找因果关系,典型的从工作前的风险评估,到调查事故的taproot或者五个为什么,无一不是逻辑推理得到结果的产物。而事实上,如果能做到信息的丰富采集和汇总的话,找出事物之间的相关性,对提高工作环境的安全系数是极为有利的。这个点留着,看看可不可以在未来继续做进一步研究。
关于软件
分析前期可以使用excel进行数据清洗、数据结构调整、复杂的新变量计算(包括逻辑计算);在后期呈现美观的图表时,它的制图制表功能更是无可取代的利器;但需要说明的是,excel毕竟只是办公软件,它的作用大多局限在对数据本身进行的操作,而非复杂的统计和计量分析,而且,当样本量达到“万”以上级别时,excel的运行速度有时会让人抓狂。
spss是擅长于处理截面数据的傻瓜统计软件。首先,它是专业的统计软件,对“万”甚至“十万”样本量级别的数据集都能应付自如;其次,它是统计软件而非专业的计量软件,因此它的强项在于数据清洗、描述统计、假设检验(t、f、卡方、方差齐性、正态性、信效度等检验)、多元统计分析(因子、聚类、判别、偏相关等)和一些常用的计量分析(初、中级计量教科书里提到的计量分析基本都能实现),对于复杂的、前沿的计量分析无能为力;第三,spss主要用于分析截面数据,在时序和面板数据处理方面功能了了;最后,spss兼容菜单化和编程化操作,是名副其实的傻瓜软件。
stata与eviews都是我偏好的计量软件。前者完全编程化操作,后者兼容菜单化和编程化操作;虽然两款软件都能做简单的描述统计,但是较之spss差了许多;stata与eviews都是计量软件,高级的计量分析能够在这两个软件里得到实现;stata的扩展性较好,我们可以上网找自己需要的命令文件(.ado文件),不断扩展其应用,但eviews就只能等着软件升级了;另外,对于时序数据的处理,eviews较强。
综上,各款软件有自己的强项和弱项,用什么软件取决于数据本身的属性及分析方法。excel适用于处理小样本数据,spss、stata、eviews可以处理较大的样本;excel、spss适合做数据清洗、新变量计算等分析前准备性工作,而stata、eviews在这方面较差;制图制表用excel;对截面数据进行统计分析用spss,简单的计量分析spss、stata、eviews可以实现,高级的计量分析用stata、eviews,时序分析用eviews。
关于因果性
早期,人们通过观察原因和结果之间的表面联系进行因果推论,比如恒常会合、时间顺序。但是,人们渐渐认识到多次的共同出现和共同缺失可能是因果关系,也可能是由共同的原因或其他因素造成的。从归纳法的角度来说,如果在有a的情形下出现b,没有a的情形下就没有b,那么a很可能是b的原因,但也可能是其他未能预料到的因素在起作用,所以,在进行因果判断时应对大量的事例进行比较,以便提高判断的可靠性。
有两种解决因果问题的方案:统计的解决方案和科学的解决方案。统计的解决方案主要指运用统计和计量回归的方法对微观数据进行分析,比较受干预样本与未接受干预样本在效果指标(因变量)上的差异。需要强调的是,利用截面数据进行统计分析,不论是进行均值比较、频数分析,还是方差分析、相关分析,其结果只是干预与影响效果之间因果关系成立的必要条件而非充分条件。类似的,利用截面数据进行计量回归,所能得到的最多也只是变量间的数量关系;计量模型中哪个变量为因变量哪个变量为自变量,完全出于分析者根据其他考虑进行的预设,与计量分析结果没有关系。总之,回归并不意味着因果关系的成立,因果关系的判定或推断必须依据经过实践检验的相关理论。虽然利用截面数据进行因果判断显得勉强,但如果研究者掌握了时间序列数据,因果判断仍有可为,其中最经典的方法就是进行“格兰杰因果关系检验”。但格兰杰因果关系检验的结论也只是统计意义上的因果性,而不一定是真正的因果关系,况且格兰杰因果关系检验对数据的要求较高(多期时序数据),因此该方法对截面数据无能为力。综上所述,统计、计量分析的结果可以作为真正的因果关系的一种支持,但不能作为肯定或否定因果关系的最终根据。
科学的解决方案主要指实验法,包括随机分组实验和准实验。以实验的方法对干预的效果进行评估,可以对除干预外的其他影响因素加以控制,从而将干预实施后的效果归因为干预本身,这就解决了因果性的确认问题。
关于实验
在随机实验中,样本被随机分成两组,一组经历处理条件(进入干预组),另一组接受控制条件(进入对照组),然后比较两组样本的效果指标均值是否有差异。随机分组使得两组样本“同质”,即“分组”、“干预”与样本的所有自身属性相互独立,从而可以通过干预结束时两个群体在效果指标上的差异来考察实验处理的净效应。随机实验设计方法能够在最大程度上保证干预组与对照组的相似性,得出的研究结论更具可靠性,更具说服力。但是这种方法也是备受争议的,一是因为它实施难度较大、成本较高;二是因为在干预的影响评估中,接受干预与否通常并不是随机发生的;第三,在社会科学研究领域,完全随机分配实验对象的做法会涉及到研究伦理和道德问题。鉴于上述原因,利用非随机数据进行的准试验设计是一个可供选择的替代方法。准实验与随机实验区分的标准是前者没有随机分配样本。
通过准实验对干预的影响效果进行评估,由于样本接受干预与否并不是随机发生的,而是人为选择的,因此对于非随机数据,不能简单的认为效果指标的差异来源于干预。在剔除干预因素后,干预组和对照组的本身还可能存在着一些影响效果指标的因素,这些因素对效果指标的作用有可能同干预对效果指标的作用相混淆。为了解决这个问题,可以运用统计或计量的方法对除干预因素外的其他可能的影响因素进行控制,或运用匹配的方法调整样本属性的不平衡性——在对照组中寻找一个除了干预因素不同之外,其他因素与干预组样本相同的对照样本与之配对——这可以保证这些影响因素和分组安排独立。
转眼间实习已去一月,之前因为工作原因需要恶补大量的专业知识并加以练习,所以一直抽不开身静下心来好好整理一下学习的成果。如今,模型的建立已经完成,剩下的就是枯燥的参数调整工作。在这之前就先对这段时间的数据处理工作得到的经验做个小总结吧。
从我个人的理解来看,数据分析工作,在绝大部分情况下的目的在于用统计学的手段揭示数据所呈现的一些有用的信息,比如事物的发展趋势和规律;又或者是去定位某种或某些现象的原因;也可以是检验某种假设是否正确(心智模型的验证)。因此,数据分析工作常常用来支持决策的制定。
现代统计学已经提供了相当丰富的数据处理手段,但统计学的局限性在于,它只是在统计的层面上解释数据所包含的信息,并不能从数据上得到原理上的结果。也就是说统计学并不能解释为什么数据是个样子,只能告诉我们数据展示给了我们什么。因此,统计学无法揭示系统性风险,这也是我们在利用统计学作为数据处理工具的时候需要注意的一点。数据挖掘也是这个道理。因为数据挖掘的原理大多也是基于统计学的理论,因此所挖掘出的信息并不一定具有普适性。所以,在决策制定上,利用统计结果+专业知识解释才是最保险的办法。然而,在很多时候,统计结果并不能用已有的知识解释其原理,而统计结果又确实展示出某种或某些稳定的趋势。为了抓住宝贵的机会,信任统计结果,仅仅依据统计分析结果来进行决策也是很普遍的事情,只不过要付出的代价便是承受系统环境的变化所带来的风险。
用于数据分析的工具很多,从最简单的office组件中的excel到专业软件r、matlab,功能从简单到复杂,可以满足各种需求。在这里只能是对我自己实际使用的感受做一个总结。
excel:这个软件大多数人应该都是比较熟悉的。excel满足了绝大部分办公制表的需求,同时也拥有相当优秀的数据处理能力。其自带的toolpak(分析工具库)和solver(规划求解加载项)可以完成基本描述统计、方差分析、统计检验、傅立叶分析、线性回归分析和线性规划求解工作。这些功能在excel中没有默认打开,需要在excel选项中手动开启。除此以外,excel也提供较为常用的统计图形绘制功能。这些功能涵盖了基本的统计分析手段,已经能够满足绝大部分数据分析工作的需求,同时也提供相当友好的操作界面,对于具备基本统计学理论的用户来说是十分容易上手的。
spss:原名statistical package for the social science,现在已被ibm收购,改名后仍然是叫spss,不过全称变更为statistical product and service solution。spss是一个专业的统计分析软件。除了基本的统计分析功能之外,还提供非线性回归、聚类分析(clustering)、主成份分析(pca)和基本的时序分析。spss在某种程度上可以进行简单的数据挖掘工作,比如k-means聚类,不过数据挖掘的主要工作一般都是使用其自家的clementine(现已改名为spss modeler)完成。需要提一点的是spss modeler的建模功能非常强大且智能化,同时还可以通过其自身的clef(clementine extension framework)框架和java开发新的建模插件,扩展性相当好,是一个不错的商业bi方案。
r:r是一个开源的分析软件,也是分析能力不亚于spss和matlab等商业软件的轻量级(仅指其占用空间极小,功能却是重量级的)分析工具。官网地址:支持windows、linux和mac os系统,对于用户来说非常方便。r和matlab都是通过命令行来进行操作,这一点和适合有编程背景或喜好的数据分析人员。r的官方包中已经自带有相当丰富的分析命令和函数以及主要的作图工具。但r最大的优点在于其超强的扩展性,可以通过下载扩展包来扩展其分析功能,并且这些扩展包也是开源的。r社区拥有一群非常热心的贡献者,这使得r的分析功能一直都很丰富。r也是我目前在工作中分析数据使用的主力工具。虽然工作中要求用matlab编程生成结果,但是实际分析的时候我基本都是用r来做的。因为在语法方面,r比matlab要更加自然一些。但是r的循环效率似乎并不是太高。
matlab:也是一个商业软件,从名称上就可以看出是为数学服务的。matlab的计算主要基于矩阵。功能上是没话说,涵盖了生物统计、信号处理、金融数据分析等一系列领域,是一个功能很强大的数学计算工具。是的,是数学计算工具,这东西的统计功能只不过是它的一部分,这东西体积也不小,吃掉我近3个g的空间。对于我来说,matlab是一个过于强大的工具,很多功能是用不上的。当然,我也才刚刚上手而已,才刚刚搞明白怎么用这个怪物做最简单的garch(1,1)模型。但毫无疑问,matlab基本上能满足各领域计算方面的需求。