保持联系

人工智能就是要使人类行为自动化,其中包括不良行为。技术人员如何编写有助于而不是有害的软件? Paul和Rich讨论了将诸如“高利贷”之类的可疑方法编码到自动化工具中的应用的兴起,以及社会压力是否最终可以纠正这些错误-或这种改变来得太迟。

成绩单

保罗·福特 下一个播客应该是我们仅查看密码管理器 [哦,不,不] 只是弄清楚我们到底是什么’对自己做了。 

Rich Ziade 哦耶。它’s a wasteland. [音乐渐渐消失,播放15秒,然后逐渐降低]

RZ 嗨,保罗。

PF 你好吗,Rich?

RZ 确实很好。

PF 是的 it’s the 其实 现在是手术术语吧? 

RZ 是的 I mean, I’我做得很好。对于那些在2025年倾听我们的好朋友。’t be better. [音乐淡出]

PF 是的是的我们’re getting by, we’重新弄清楚。我的AC已死。所以在纽约,我有大约两个星期的时间来解决这个问题 [是的] 和它’在屋顶上。我可能会晕倒。 

RZ 不,只是体力充沛,做正确的事。照顾好自己。

PF 那里’这是一件有趣的事情。您最终必须接受的是事物将是它们的原样,而Postlight’很好。孩子们很健康,我有坚定的父母,但是他们’重新工作。所以,我最好去骑自行车。

RZ 你应该去骑自行车。 

PF 您’一直很稳定地做您的早晨锻炼。 

RZ 是的很稳定其实我想我’在家里减肥。 

PF Yeah! I 能够 tell.

RZ 我也是’m I’我没有那么多外出就餐。它使您的饮食有很大不同。

PF Boy are we not. 神。你错过了什么?你错过了什么?

RZ 寿司。我很想吃寿司。但是你知道吗?一世’m going to, I’m ready to take the leap forward here. Right? 那里’我在星期六晚上点了泰国菜,这很可爱。 

PF 哦,你还没有’t been ordering, we’我已经像每周一次订购。 

RZ 是的我们’重新开始订购。认为我们’re going, it’只是,这也给我们带来了一些缓解。 [嗯] 就像根本没有想过每分钟做饭一样。 

PF I’ll tell you what’s, what’令人着迷的是,我们’我一直在吃很多像普通的东西,面条,面食,简单的东西。我们的壁橱里也有一百,一百磅的面粉。我在周末烤面包,这是另一个世界。 

01:56 

RZ 为什么要这么做? 

PF 因为它’郊游之一是,导致购物的原因之一就是缺少像面包一样的东西,比如缺少简单的主食。 [哦耶] 因此,一旦您掌握了该策略,便可以’再走一半 

RZ 有趣。 

PF 这样很有趣。所以,实际上,我们’re speaking about global things. 那里 is a website that I’我越来越喜欢这个。一个具有相关知识的全新网站。它’称为restofworld.org。 

RZ 哎呀 

PF 和 what it’关于科技行业, [好的] 除了我’我要告诉你,那里’有关Facebook和算法等技术的报道,以及技术对我们文化的影响以及它的发展方式’破坏民主和所有这些东西。然后’s good. It’s important. [是的] 您 gotta have it. 那里’那里有很多做得很好的网站。这个角度不同。它’从根本上说,就技术行业而言,在美国和硅谷以外发生的地狱是怎么回事。

RZ 令人着迷的东西。 

PF So this, this platform is set up to cover that world to be like, how are things going? 您 know, here 和 there 和 elsewhere. 和 there is a pattern that they described that I want to talk about, which is [好的]。好吧,这篇文章是Morris Kiruga撰写的,它是关于一种流行的金融技术应用程序的,这是肯尼亚和尼日利亚的金融科技应用程序,称为OKash。好吧,我赢了’不要读我想喜欢的标题,让我随便播放一下。问我一些钱,我’ll be the bank. 

RZ 好的。能给我一百美元吗?

PF Oof, that’很多钱,但让’s, let’s start you at 15. No problem. 这里 you go. Install the app. 那里’s your 15 bucks. 

RZ 好的。谢谢。 

PF 你能还我吗? 

RZ 嗯,什么时间表? 

PF 好吧,就这样,快还我钱吧。就像很好的时间表。一切’很好。还我。前进。做吧 

RZ 好的。 

PF 这里’s,给我我的钱。好的。现在给我钱。好的。如果您需要,我会给您30美元。因为你真的在15岁以上。 

04:00 

RZ 好的。 是的 我是说 能够 always use money. I use the money. 我是说 use it it’是我的首都。我投资。所以我’ll take $30. 

PF 嘿,你拿给我那30美元吗?好。 60左右呢? 

RZ 好的。是的,我’ll take it. 

PF 嘿等一下 [是的] 等一下。嘿,你’再迟一点还清60美元。 

RZ 好的。但是你知道,我,它’是一笔贷款。我会把它还给你。给我,我只需要一点时间。 

PF 这里’s what’会发生的,哥们。当您安装应用程序时,我们会在您的社交网络中吸引每个人。我们知道他们所有人,他们的所有电子邮件地址和电话号码。如果未在4:00 PM前清除,我们将通知他们。 

RZ 嗯嗯… No.

PF Yup. 那’s what we’re going to do.

RZ我们可以吗 talk about this? 我们可以吗 just talk this through, right?

PF Well, you’re not yet. 您 didn’不给我四分钱所以我想不是。所以让’s, uh, let’看到您的朋友,家人和同事知道后,会发生什么,请单击。那家伙还了15美元。对。 [是的] 然后他,你知道 [是的] 他还清了20英镑,然后他们得到了您。从字面上看,他们就像我们’我们会继续赚钱,因为当您何时,何时您’再给我们这些贷款的一点利息。所以,我的意思是’这是一个令人着迷的模式,实际上,您带来了这个…

RZ 问你这个问题是不道德的吗?

PF 是的是的放平一点。

RZ 是的如果工具说的话,看,如果你不知道怎么办’无法付款,我们将联系您的所有联系人吗?你确定吗?是还是不是。

PF 我的意思是,您知道,对于所有您来说,’苹果公司的服务条款 [大笑]

RZ Oh 大概。可能是。 

PF 非常可能,非常可能。我赋予了某人某种能力,例如完全融入每个人的权利’我的世界上的生意。就像我们使用的那种工具和框架中的混乱模式一样,它们以尴尬的方式被召唤出来。对?因此,如果您订阅某些服务,’s说这已经发生了。这给大家带来了几种不同的方式。我们的世界就像一个书呆子,就像风投一样’喜欢,好吧,我’我会报名参加。您通过Twitter登录,却没有’t, 和 they’实际上,与过去相比,这种锁定方式要好得多。但是您允许它代表您发推文。 [嗯] And it’s like, 不要’t worry. We’re never going to do it. 您 know? 和 then like one day you wake up 和它’s like, I’在Friend Master上已有44位关注者。你呢’就像,到底是什么,什么? 

RZ Yeah.

06:17 

PF 和 your friends are like, that’s weird. 和 so, everybody makes fun of that…

RZ 我妈妈签了这些东西 所有 时间。就像我受邀参加各种奇怪的狗屎一样。

PF 看,所以你 并且我属于一个在社会上将惩罚这样做的组织的组织的一部分。并且,然后他们必须写一个道歉记录并表明他们理解它。我们集体施加社会压力 [嗯] 因为我们不’就像当人们代表我们做那样的事情时,这些都是规范 [是的] 我们已授予他们这样做的实际许可。但是当他们这样做的时候,我们就像,嗯,’不酷。 99.9%的世界绝对没有社会资本可以扩展以告诉人们如何执行服务条款。

PF 不。不仅如此,在许多情况下(例如,等一下,您’re gonna give me this tool? 那’要给我,我可以将它用作购物清单制作者吗? 好的。然后你’重新登录,但您知道,在服务条款中说,我们’再去看看’在您的购物清单中。将该数据传递给Google。接下来,当您想到卫生纸时,’在洛杉矶时报网站上看到广告。而且’s like, 喔喔, okay. [大笑]

PF 对。 

RZ I think most of the time people are like, I guess, 我是认真的’如此好工具。它’s so handy. [是] It’s fine. 您只是顺其自然。 

PF 我认为它’s,我们接受一定程度的令人毛骨悚然的作为,只是存在的一部分。

RZ 我敢打赌,如果他们用大胆的大写字母写出来,正是他们’ll do to you. 如果你不这样做’为了偿还债务,人们仍在左右签约。 

08:00 

PF  您现在需要$ 15。看,我的意思是’就像Venmo和人们互相支付。就像那里’社交信号。它’s not, it’不是香蕉会发生这种情况。对。除此之外,此应用尤其获得了代表。就像人们一样,哇,发生了什么事 [我是说..] 对我来说?因为当他们打电话给你婆婆时’s tattling.

RZ 是的我的意思是,看,什么是软件?辅助软件正在自动执行人类行为。我告诉你,这个村子里有高利贷者,如果你不这样做,他会让所有人知道’不能还钱所以有些软件开发人员喜欢,您知道吗?我可以编写代码。我可以为Leon和他的伙伴们编码。 [大笑]

PF 你知道吗’棘手,人们应该阅读这篇文章。对。但是随着它的发展,他们当然喜欢’就像所有这些金融平台的所有者一样,您所看到的就是那样,没错。您’重新自动化该行为。 [是的] 您’re, you’re adding this structure. 您’重新采用这种模式。哪里出错了,产品思维往往就会下降,这是当您对人类行为采取基于投资组合的方法时。你呢’re like, [大笑] you know what, if we did that, you know, 和 if we get the money at 所有 costs, right. 和 here’s, what’s tricky…

RZ 他们可能认为这具有威慑力。看,我认为’这些工具(尤其是能给您带来金钱的工具)具有如此强大的功能,人们愿意放弃的东西,您不会’甚至不必被人打招呼。你可以把它全部摆出来,他们’ll still do it.

PF 这里’是未来。就我而言,所以我看着这个,就像这样’我可能会受到监管。但是我要吸取教训,我要吸取教训’t think is like, ”don’遵循产品中的深色图案 ’.”就像我们都知道那样。要汲取的教训是,您永远不会想到的文化类别将永远不会自动化 [嗯](例如自动执行法律诉讼或自动执行类似广播样式的收藏)之所以成为可能,是因为当有人访问您为您提供服务时,他们会获得大量的环境信息。因此,在大多数情况下,’就是你在说什么。一世’我要去拿广告一世’我要一遍又一遍地向他展示这台烤面包机,真的很合我的手指。因为如果我能让他们的0.1%买烤面包机,每个人’将会度过一个愉快的圣诞节,但是’s happened. So we’再说,好吧,我明白了。我有点看数据库。他们想卖给我一个烤面包机。一世’我们的目标是购买东西。我整个人生都很好。好的。 

RZ Yeah.

10:19 

PF 那’是这样的。机器人正试图让我拿起钱包。 [当然] 但是就像您开始获得自动诉讼或医疗用品一样,或者,您知道,就像您的保险开始计算那样。 [对] 那’当我们开始疯狂地寻找时,我认为什么是真实的,我们需要适应的地方是,无论我们说的规则是什么,我们喜欢什么或不喜欢什么’t,这就是不可阻挡的力量。而且没有 ’无论您认为它是好是坏,除非您像美国总统一样,否则您将生活在一个无法想象的事情中,计算机会像起诉您一样自动执行该操作,或者, 你懂, [是的] 告诉你,告诉你谁对你的论文进行约会或评分。所有这些事情都来了。这样,您将如何以个人身分进行谈判?我不’我们认为在这样一个由机器人决定命运的世界中,您如何进行谈判确实有很好的指导原则。 

RZ 是的我同意。嗯,我不’认为我们知道。我想我们’我要踩很多次然后再调整我认为,我认为您在哪里可以画线,是这些工具不应使用被视为不公平或恐吓的手段,而并非来自人类的手段。我的意思是,事实是它们被使用了。我的意思是,您曾经在邮件中收到您无法收到的那些信件’不能说这是广告,真的吗? 

PF 是的

RZ 看起来,几乎就像是一张账单,哦,当您注册公司时,当您注册公司时…

PF Oh my God, yeah. 是的 yeah, yeah.

RZ 他们给您寄来的这些信件简直是可耻的,因为看起来特拉华州寄给您了,但实际上’只是一个叫乔的人。 WHO ’试图收费来保护您的名字或其他任何东西’re selling.

12:03 

PF 哦我 can’记得哪个出版公司。我认为它’是那种发行精美杂志的有光泽的杂志之一。有人向他们收取了200万美元的费用,而他们只是付了钱。 [大笑] 

RZ 那里 you go. 那里 you go.

PF 那不是’很好。就像,这绝对是糟糕的一天,在工作中糟糕的一天’就像,为什么要向Joko支付200万美元呢? 

RZ 那’s right. 那’是的。您会得到水电费,例如,通过支付给我们,通过我们支付以及’因为你的账单会便宜些。而且,但是像提案,提案一样的提案,就像提案一样,它包含在法案中,看起来像是法案本身。对?

PF 哦耶。好吧,它’电子邮件营销的外观相同。喜欢它’s这就是令我震惊的是它们多么愚蠢。对。因为我每周有五次演讲,或者一天大概有五次,坦率地说我在海外销售软件服务,因为他们想补充Postlight或我得到的任何东西,哦,我们也得到这样的消息,嘿,为什么不’t we, we’我们将为这个非常合法的探空电缆网络制作贵公司的视频资料。你呢’喜欢,然后你去看看它,你’很喜欢,不,很好。不,你’re not. 您’我要向我收取14,000美元才能像19岁的孩子一样读新闻稿。 [轻笑] 嗯对因此,当您看着它,然后想一会儿,里奇,与我一起进入邪恶的一分钟时,我们拥有的信息量以及可以产生的叙事质量。 Like if you search for stock results on a middle tier company, you will find like 50 文章s written by robots. 那’s a, that’s a normal thing. [对] 好的。所以那里’是吗?我们如何才能真正引起人们的更多关注?就像您考虑可以将我和我,数据库一起整理的自动配置文件,然后再考虑可以写的那种电子邮件一样,这确实是个人的,也非常有用。就像前一天我得到的一样令人着迷。有人为我提取了报告,并向我发送了一些统计数据,结果是个垃圾。但是他们所做的只是他们说的,我知道这个电子邮件地址的人对科技公司感兴趣。 

14:09 

RZ 

PF 和 I have this database of market sectors. So I’我要给他们做这个奇怪的小报告。 [是的] And then they’再要注意我。而且’s like, I saw it through it 真实ly quickly. Actually, if you had any sense of quality, you could get my eyes. 您 could 真实ly I’m gettable. [当然] 但是没有人,没有人会投入工作,因为他们’只是要针对将要按下按钮的约1%的杂烩头进行优化。

RZ 和 they, 和 you know, that’成功。 1%是巨大的成功。 [是的’s right] 我的意思是’游戏,对不对?它’没什么不同。我的意思是,看’较温和的骗局,对吗?就像我妈妈一直在接电话。她’就像,看,我发现可卡因和你’是两个月前您在德克萨斯州遗弃的汽车后备箱中。 [保罗笑了] If you 不要’给我汇钱。而且我要告诉你,你要明白,我妈妈对她所从事的全部事情感到非常不可思议。她’s like 真实ly? 

PF 哦,可卡因?

RZ是的是的她’真的很多很多钱’值得。 ??那家伙对她的话大吼大叫,听我说,我’我现在很认真。对。 

PF 哦,我爱那些家伙。 

RZ 我妈妈是 歇斯底里的笑。但是你知道吗,有一个年长的男人或一个年长的女人’t know what’s going on? It’就像每50个通话中就有一个。 

PF Oh, totally.

RZ那’s good. 那’s 真实ly good.

PF 兰尼。只需寻找Lenny电话销售,这是一个人制造的聊天机器人。而且’s like an audio chat bot for telemarketers. 那 is from 2008 和它 is not advanced technologically. It’只是一个喜欢谈论他的孩子的老家伙。他只是,如果您听的话,’只是他走的样子,是的,好吧,不,等等,等等。你能还给我吗? 

RZ [大笑]哦这个’s so good. 

PF 其中一个人走了大约45分钟,从字面上看,他们只是大火了,因为那个家伙,你知道,他’就像,不,不,不,不,请稍等。我的女儿’在大学。非常自豪,非常自豪。 

16:05 

RZ [大笑] 那’s so good.

PF 和 I mean, it’s, it’一些最出色的东西。它’几乎就像它必须要放在背景上一样。它’s so good. 

RZ That’s great.

PF 人类,当他们表现得像机器人一样容易受到所有事物的侵害时,所有捕获机器人的蜜罐对不对?

RZ Sure!

PF 就像当我们将人类放在脚本上一样,他们会失去灵活性。因此,就像您最终担任该职位一样,这就是我认为将来会发生的事情,那就是您的个人平台将成为所有这些实质上是过滤器的不同代理,从而阻止自动化系统进入您的手中。对。 

RZ You think we’ll pay a fee for that. 

PF 您已经这样做是因为您为自己付款,也为Google付费。现在他们’重新过滤垃圾邮件,因为政府无法’几年前,突然想出了阻止成千上万的垃圾邮件呼叫的政策’s mobile phone. [是的] 现在,当我弹出时,我说是可疑垃圾邮件呼叫者。我走了,是的,我不知道’t want to, I 不要’t want to talk to that. 那’不适合我。所以像我’我现在要付给两三个巨人 [是的] who 能够’t,谁可以自动保护我,但选择不保护我’我会通过各种费用和服务被动地支付他们,以这种方式照顾我。我认为这将适用于弱势老年人的环境,您可以将其提高到最大程度,例如未经批准就不会打入电话。 [是啊] And we just 不要’在当地没有免疫系统,因为每个人都为获得全部收入而兴奋不已。

RZ 您知道,我想回到Okash,我认为关于Okash的事情是,他们获得更大自由度的原因是’一个非常清楚的关系。那里’用户与公司之间的交易关系。我认为什么人,什么’在过去的20、30、40年中发生的大多数人’t 真实ize that they’重新建立各种关系,例如实际的正式法律关系,使某些事情发生。对。

18:07 

PF Oh, 和 you know, you know what the great tell is here? 您 know how you know how bad it is is you go into your password manager now. 

RZ 喔喔’s unbelievable. Isn’t it? 

PF[保罗笑了]和 you’就像,为什么我有1500个帐户? [是的] 像为什么,发生了什么事?

RZ 你知道那里有一个’与所有这些都相反’具有深厚的道德,智慧,参与度,或者,您知道,在那里进行良好扎实工作和’不想成为,呃,不要’t call us if you’重新做,阴暗的东西。

PF 好吧,你 know what? They get in touch 所有 the time. Cause I see 所有 the sales emails. 你知道吗 the most amazing filter is for 所有 of this is price. [没有] 阴暗面的任何人都不想支付零售价。 

RZ [大笑] It’s very true. It’s very true. It’有点神奇,是’t it?

PF It’真的很疯狂。因为我’ll see stuff 和 I’就像,我不应该’甚至不愿意回答这个问题,但是我’肠道感觉不好。但是我总是喜欢从销售的角度出发。就像我们总是可以说的,不。我喜欢玩游戏,只是想看看它们的去向。而且’是我了解市场的方式。男孩。当他们看到构建软件的成本时,他们就会崩溃。他们导致他们’重新布线就可以将您撕裂。对?喜欢他们’就像,不,不,我们’在这里有个了不起的交易。您应该进来免费构建 [是的] because then I’m going to be able to get you some opportunity. 和 I’m like, no, that’我们的业务并非真正有效。 [是的] 但是你知道,如果你想,如果你’d想看看我们的能力平台,他们’re like, h[保罗轻笑]

RZ 您知道,因为这些人也已经习惯了它所在的市场’都是一百万个小小的交易,而不是有意义的交易。对。 

PF No that’s right 和它’s somebody’s cousin [大笑] 现在突然… It’s also like, I’我会告诉你很少有与区块链相关的想法,我的意思是’他们出现时是如此认真,我’我就像,太好了很想和您谈谈您的神奇事’在做。我喜欢这种技术。让’谈论它。他们可以’t seal the deal. [不,不] 他们只是,因为我认为发生的事情就像价格波动很大,’就像,哦,不,我们可以’不再这样做了。然后他们又回电,就像六个星期后,’就像,哦,是的,实际上,不,一切’s fine. Bitcoin’再次超过9,000。 

20:14 

RZ  Yeah well they’重新尝试进入 实际的商业世界,看看会发生什么。对。 

PF 所以我认为实际上您刚才所说的完全正确,正确。这就是说,我们作为一个战略而不是自觉地决定,我们只会在实体经济中发挥作用, 确实使人们对他们的公司不满意’重新获得,他们可能会感到非常困惑。所以看,我们是一个 真实 与之合作的地方 真实 公司和组织建立 真实 products for 真实 users. Usually I’告诉您什么,我们获得了MVP,我们希望出货的最低可行产品。在人们取得联系后,我们很快就会开始发布代码。可是里奇,请告诉人们我们待多久。 

RZ 我们不’不要走像聚会’s over. Everybody’就像丢掉独奏杯,我们’re still there. [嗯] We’再只是要坐在那里。 

PF 好吧,你 know what we are, we’坚持做菜的朋友。

RZ 帮助清理!是。绝对 [大笑] 我喜欢这个比喻。

PF 我们收拾东西,然后,是的,我们洗碗,然后我们聊,现在,我们不’不要逾越我们的欢迎。如果它’是时候回家了’s time to go home. 

RZ 绝对。绝对。

PF 但是我们甚至可能会在第二天出现,以提供帮助 get the trash out. [音乐淡入]

RZ 是。 We are driven by relationships more than we are about projects. 和 I think that’s, that’对我们来说有点不同。 

PF 那就是我们的真实身份。 

RZ 我们是谁?! 我们避风港’t是公司的名字,保罗。

PF Oh my god, 我们是Postlight。我们是您的数字产品合作伙伴。我们是来帮你的。

RZ Yes.

PF 随着数字化转型的到来,您知道,这是很多麻烦的事情。但是我们实际上只是说,我们将如何构建它?我们将如何在用户面前?需要发生什么?无论’管理层,人员或培训或新软件,新方法,要使其在组织中发生,需要做什么?然后我们开始工作。与大多数其他咨询公司不同。我赢了’命名任何名称。我们制造出令人毛骨悚然的东西。 

22:05 

RZ 伸手给我们。我们喜欢聊天。 [email protected]。 

PF [email protected]。 

RZ 我们总部位于纽约市,但我们’在世界各地,我们喜欢聊天,打我们。

PF Oh 和 check out restofworld.org. 那 was a great 文章 和 good, good conversation fodder. 

RZ 是的 Have a great week. 

PF 再见! [音乐上升,结束]