生活资讯
gan技术 、人工智能gan技术
2023-04-23 00:35  浏览:35

GAN的基本介绍和变种

GAN,全称为Generative Adversarial Nets,直译为“生成式对抗网络”。GAN作为生成模型的代表,自2014年被Ian Goodfellow提出后引起了业界的广泛关注并不断涌现出新的改进模型,深度学习泰斗之一的Yann LeCun高度评价GAN是机器学习界近十年来最有意思的想法。

GAN始终存在训练难、稳定性差以及模型崩塌(Model Collapse)等问题。产生这种不匹配的根本原因其实还是对GAN背后产生作用的理论机制没有探索清楚。

在推动GAN应用方面,2017年有两项技术是非常值得关注的。其中一个是CycleGAN,其本质是利用对偶学习并结合GAN机制来优化生成图片的效果的,采取类似思想的包括DualGAN以及DiscoGAN等,包括后续的很多改进模型例如StarGAN等。CycleGAN的重要性主要在于使得GAN系列的模型不再局限于监督学习,它引入了无监督学习的方式,只要准备两个不同领域的图片集合即可,不需要训练模型所需的两个领域的图片一一对应,这样极大扩展了它的使用范围并降低了应用的普及难度。

另外一项值得关注的技术是英伟达采取“渐进式生成”技术路线的GAN方案,这项方案的引人之处在于使得计算机可以生成1024*1024大小的高清图片,它是目前无论图像清晰度还是图片生成质量都达到***效果的技术,其生成的明星图片几乎可以达到以假乱真的效果(参考图3)。英伟达这项由粗到细,首先生成图像的模糊轮廓,再逐步添加细节的思想其实并非特别新颖的思路,在之前的StackGAN等很多方案都采用了类似思想,它的独特之处在于这种由粗到细的网络结构是动态生成的而非事先固定的静态网络,更关键的是产生的图片效果特别好

首先,有一个一代的 generator,它能生成一些很差的图片,然后有一个一代的 discriminator,它能准确的把生成的图片,和真实的图片分类,简而言之,这个 discriminator 就是一个二分类器,对生成的图片输出 0,对真实的图片输出 1。

接着,开始训练出二代的 generator,它能生成稍好一点的图片,能够让一代的 discriminator 认为这些生成的图片是真实的图片。然后会训练出一个二代的 discriminator,它能准确的识别出真实的图片,和二代 generator 生成的图片。以此类推,会有三代,四代。。。n 代的 generator 和 discriminator,最后 discriminator 无法分辨生成的图片和真实图片,这个网络就拟合了。

对抗样本(adversarial examples)是机器学习模型的输入,攻击者故意设计它们以引起模型出错;它们就像是机器的视觉错觉。

对抗样本指的是一个经过微小调整就可以让机器学习算法输出错误结果的输入样本。在图像识别中,可以理解为原来被一个卷积神经网络(CNN)分类为一个类(比如“熊猫”)的图片,经过非常细微甚至人眼无法察觉的改动后,突然被误分成另一个类(比如“长臂猿”)。

对抗训练

对抗训练是防御对抗样本攻击的一种方法。将对抗样本和正常样本一起训练是一种有效的正则化,可以提高模型的准确度,同时也能有效降低对抗样本的攻击成功率。不过这种防御也只是针对同样用来产生训练集中的对抗样本的方法。

确实在下图中可以看到,训练集是正常样本和对抗样本,测试集是正常样本的红线比训练集和测试集都是正常样本的错误率要降低,说明对抗训练是有正则化的功能。

Figure 9

在训练的时候直接生成对抗样本是比较低效的,之前提到的FGSM是一个高效的对抗训练方法。只需要改变目标函数就能在训练每个正常样本的同时也考虑了对抗样本。模型训练去给对抗样本赋予和正常样本原分类同样的类别。

用经过FGSM训练的网络,可以有效的防御用FGSM产生的对抗样本攻击,但是如果换其他对抗攻击方法,也会被攻破。

对抗样本的工作思路,可以有以下两个方面的意义:

结论

要为集成模型创建对抗样本,因为梯度方法的问题,难度会加大。但是生成的算法更为可行有效。

单个模型出现盲点可以由其他模型弥补,采用的会是输出结果***的模型数据。

我们发现当我们用动态创建的对抗模型来训练算法时,能够解决这些对抗样本的问题。这是因为当模型面对这些可能出现问题的对抗低概率区域时,可以产生更高的“免疫力”。这同时也支持了低概率区域的论点,在这些区域的对抗样本更难处理。

DCGAN是继GAN之后比较好的改进,其主要的改进主要是在网络结构上,到目前为止,DCGAN的网络结构还是被广泛的使用,DCGAN极大的提升了GAN训练的稳定性以及生成结果质量。

论文的主要贡献是:

◆ 为GAN的训练提供了一个很好的网络拓扑结构。

◆ 表明生成的特征具有向量的计算特性。

D(x)表示D网络判断真实图片是否真实的概率(因为x是真实的,所以对于D来说,这个值越接近1越好)。而D(G(z))D(G(z))是为了D判断G生成的图片是否真实的概率。

G的目的:G应该希望自己生成的图片“越接近真实越好”。也就是说,G希望D(G(z))D(G(z))尽可能得大,这是V(D,G)V(D,G)会变小。

D的目的:D的能力越强,D(x)D(x)应该越大,D(G(x))D(G(x))应该越小。因此D的目的和G不同,D希望V(D,G)V(D,G)越大越好。

DCGAN对卷积神经网络的结构做了一些改变,以提高样本的质量和收敛的速度,这些改变有:

取消所有pooling层。G网络中使用转置卷积(transposed convolutional l***er)进行上采样,D网络中用加入stride的卷积代替pooling。

在D和G中均使用batch normalization

去掉FC层,使网络变为全卷积网络

G网络中使用ReLU作为激活函数,最后一层使用tanh

D网络中使用LeakyReLU作为激活函数

DCGAN中的G网络示意:

DCGAN的生成器网络结构如上图所示,相较原始的GAN,DCGAN几乎完全使用了卷积层代替全链接层,判别器几乎是和生成器对称的,从上图中我们可以看到,整个网络没有pooling层和上采样层的存在,实际上是使用了带步长(fractional-strided)的卷积代替了上采样,以增加训练的稳定性。

DCGAN能改进GAN训练稳定的原因主要有:

◆ 使用步长卷积代替上采样层,卷积在提取图像特征上具有很好的作用,并且使用卷积代替全连接层。

◆ 生成器G和判别器D中几乎每一层都使用batchnorm层,将特征层的输出归一化到一起,加速了训练,提升了训练的稳定性。(生成器的最后一层和判别器的***层不加batchnorm)

◆ 在判别器中使用leakrelu激活函数,而不是RELU,防止梯度稀疏,生成器中仍然采用relu,但是输出层采用tanh

◆ 使用adam优化器训练,并且学习率***是0.0002,(我也试过其他学习率,不得不说0.0002是表现***的了)

BigGAN在训练中 Batch 采用了很大的 Batch,已经达到了 2048(我们平常训练 Batch 正常都是 64 居多),在卷积的通道上也是变大了,还有就是网络的参数变多了,在 2048 的 Batch 下整个网络的参数达到了接近 16 亿

氮化镓(GaN)手机快充方案

氮化镓(GaN)手机快充方案

氮化镓(GaN)是一种高电子迁移率晶体管(HEMT),意味着GaN器件的临界电场强度大于硅。对于相同的片上电阻和击穿电压,GaN的尺寸更小。GaN还具有极快的开关速度和优异的反向恢复性能。

一、氮化镓(GaN)器件介绍:

GaN器件分为两种类型:

耗尽型:耗尽型GaN晶体管常态下是导通的,为了使它截止必须在源漏之间加一个负电压。

增强型:增强型GaN晶体管常态下是截止的,为了使它导通必须在源漏之间加一个正电压。

GaN VS MOSFET:

他们的关键参数都是导通电阻和击穿电压。GaN的导通电阻非常低,这使得静态功耗显著降低,提高了效率。GaN FET的结构使其输入电容非常低,提高了开关速度。意味着GaN具有更高的效率,并可以使用更少的电磁学和被动元件。

二、手机快充介绍:

能在极短的时间内(0.5-1Hr)使手机电池达到或接近完全充电状态的一种充电方法。

实现手机快速充电方法:

1.电压不变,提高电流;

2.电流不变,提升电压;

3.电压、电流均提高。

手机快速充电技术目前分为“高压小电流快充”和“低压大电流快充”两种方案。VOOC闪充和Dash闪充属于后者“低压大电流快速充电”。快速充电对手机电池的寿命没有影响,现在的电池都可以承受大电流。

三、氮化镓(GaN)快充:

氮化镓(GaN)快充在已有的快充技术上通过改用氮化镓(GaN)核心器件,将手机快速充电器做到功率更大、体积更小、充电速度更快。

氮化镓(GaN)快充方案包含两个部分,充电器部分和电源管理部分

充电器部分:充电管理芯片根据锂电池充电过程的各个阶段的电器特性,向充电器发出指令,通知充电器改变充电电压和电流,而充电器接收到来自充电管理系统的需求,实时调整充电器的输出参数,配合充电管理系统实现快速充电。

电源管理部分:相应的芯片置于移动智能终端内,有独立的电源管理芯片,也有的直接集成在手机套片中,电源管理芯片对锂电池的整个充电过程实施管理和监控,包含了复杂的处理算法,锂电池充电包括几个阶段:预充阶段、恒流充电阶段,恒压充电阶段、涓流充电阶段。

第三代半导体材料爆发!氮化镓站上最强风口

随着市场对半导体性能的要求不断提高,第三代半导体等新型化合物材料凭借其性能优势开始崭露头角,成为行业未来重要增长点。

相对于***代(硅基)半导体,第三代半导体***带宽度大,电导率高、热导率高。第三代半导体的***带宽度是***代和第二代半导体***带宽度的近3倍,具有更强的耐高压、高功率能力。

氮化镓(GaN)和碳化硅(SiC)并称为第三代半导体材料的双雄,由于性能不同,二者的应用领域也不相同。

氮化镓、高电流密度等优势,可显著减少电力损耗和散热负载,迅速应用于变频器、稳压器、变压器、无线充电等领域,是未来***增长潜质的化合物半导体。

与GaAs和InP等高频工艺相比,氮化镓器件输出的功率更大;与LDCMOS和SiC等功率工艺相比,氮化镓的频率特性更好。

随着行业大规模商用,GaN生产成本有望迅速下降,进一步***GaN器件渗透,有望成为消费电子领域下一个杀手级应用。

GaN主要应用于生产功率器件,目前氮化镓器件有三分之二应用于军工电子,如军事通讯、电子干扰、雷达等领域。

在民用领域,氮化镓主要被应用于通讯基站、功率器件等领域。氮化镓基站PA的功放效率较其他材料更高,因而能节省大量电能,且其可以几乎覆盖无线通讯的所有频段,功率密度大,能够减少基站体积和质量。

氮化镓在光电子、高温大功率器件和高频微波器件应用方面有着广阔的前景。随着5G高频通信的商业化,GaN将在电信宏基站、真空管在雷达和航空电子应用中占有更多份额。

根据Yole估计,大多数Sub 6GHz的蜂窝网络都将采用氮化镓器件,因为LDMOS无法承受如此之高的频率,而砷化镓对于高功率应用又非理想之选。

同时,由于较高的频率会降低每个基站的覆盖范围,需要安装更多的晶体管,因此市场规模将迅速扩大。

Yole预测,GaN器件收入目前占整个市场20%左右,到2025年将占到50%以上,氮化镓功率器件规模有望达到4.5亿美元。

从产业链方面来看,氮化镓分为衬底、外延片和器件环节。

尽管碳化硅被更多地作为衬底材料(相较于氮化镓),国内仍有从事氮化镓单晶生长的企业,主要有苏州纳维、东莞中镓、上海镓特和芯元基等。

从事氮化镓外延片的国内厂商主要有三安光电、赛微电子、海陆重工、晶湛半导体、江苏能华、英诺赛科等。

从事氮化镓器件的厂商主要有三安光电、闻泰 科技 、赛微电子、聚灿光电、乾照光电等。

GaN技术的难点在于晶圆制备工艺,欧美日在此方面优势明显。由于将GaN晶体熔融所需气压极高,须采用外延技术生长GaN晶体来制备晶圆。

其中日本住友电工是全球***GaN晶圆生产商,占据了90%以上的市场份额。GaN全球产能集中于IDM厂商,逐渐向垂直分工合作模式转变。美国Qorvo、日本住友电工、中国苏州能讯等均以IDM模式运营。

近年来随着产品和市场的多样化,开始呈现设计业与制造业分工的合作模式。

尤其在GaN电力电子器件市场,由于中国台湾地区的台积电公司和世界先进公司开放了代工产能,美国Transphorm、EPC、Navitas、加拿大GaN Systems等设计企业开始涌现。

在射频器件领域,目前LDMOS(横向扩散金属氧化物半导体)、GaAs(砷化镓)、GaN(氮化镓)三者占比相差不大,但据Yoledevelopment预测,至2025年,砷化镓市场份额基本维持不变的情况下,氮化镓有望替代大部分LDMOS份额,占据射频器件市场约50%的份额。

GaAs芯片已广泛应用于手机/WiFi等消费品电子领域,GaN PA具有***功率、增益和效率,但成本相对较高、工艺成熟度略低,目前在近距离信号传输和军工电子方面应用较多。

经过多年的发展,国内拥有昂瑞微、华为海思、紫光展锐、卓胜微、唯捷创芯等20多家射频有源器件供应商。

根据2019年底昂瑞微董事长发表的题为《全球5G射频前端发展趋势和中国公司的应对之策》的报告显示,截至报告日,国内厂家在2G/3G市场占有率高达95%;在4G方面有30%的占有率,产品以中低端为主,销售额占比仅有10%。

目前我国半导体领域为中美 科技 等领域摩擦中的卡脖子方向,是中国 科技 崛起不可回避的环节,产业链高自主、高可控仍是未来的重点方向。第三代半导体相对硅基半导体偏低投入、较小差距有望得到重点支持,并具备弯道超车的可能。

关于gan技术和人工智能gan技术的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。

发表评论
0评