相信许多留学生对数学代考都不陌生，国外许多大学都引进了网课的学习模式。网课学业有利有弊，学生不需要到固定的教室学习，只需要登录相应的网站研讨线上课程即可。但也正是其便利性，线上课程的数量往往比正常课程多得多。留学生课业深重，时刻名贵，既要学习知识，又要结束多种类型的课堂作业，physics作业代写，物理代写，论文写作等；网课考试很大程度增加了他们的负担。所以，您要是有这方面的困扰，不要犹疑，订购myassignments-help代考渠道的数学代考服务，价格合理，给你前所未有的学习体会。
我们的数学代考服务适用于那些对课程结束没有掌握，或许没有满足的时刻结束网课的同学。高度匹配专业科目，按需结束您的网课考试、数学代写需求。担保买卖支持，100%退款保证，免费赠送Turnitin检测报告。myassignments-help的Math作业代写服务，是你留学路上忠实可靠的小帮手！
数学代写|数值分析代写numerical analysis代考|Conjugate Gradients for Optimization
It is noted in Section 2.4.2.1 that part of the conjugate gradient method can be derived from the condition that $\boldsymbol{x}_{k+1}$ minimizes the convex quadratic function $\phi(\boldsymbol{x})=\frac{1}{2} x^T A x-\boldsymbol{b}^T x$ over $x \in \operatorname{span}\left{p_0, p_1, \ldots, p_k\right}$, together with the property that $\boldsymbol{p}i^T A \boldsymbol{p}_j=0$ for $i \neq j$ (the conjugacy property). The conjugacy condition implies that $\boldsymbol{x}{k+1}-\boldsymbol{x}k \in \operatorname{span}\left{\boldsymbol{p}_k\right}$, so that we can find $\boldsymbol{x}{k+1}=\boldsymbol{x}_k+s_k \boldsymbol{p}_k$ by using an exact line search.
We can generalize this algorithm to functions $f(\boldsymbol{x})$ that are neither quadratic nor convex, and to use inexact line search methods. However, in this process, we lose some properties of the method. For convex quadratic objective functions and exact line searches, we have the following properties of the iterates of the conjugate gradient method (recall that $\boldsymbol{r}_i=A \boldsymbol{x}_i-\boldsymbol{b}$ ):
$$
\begin{array}{rlr}
\boldsymbol{r}_i^T \boldsymbol{r}_j & =0 \quad & \text { if } i \neq j, \
\boldsymbol{r}_i^T \boldsymbol{p}_j & =0 \quad \text { if } j<i, \
\boldsymbol{p}_i^T A \boldsymbol{p}_j & =0 \quad \text { if } i \neq j, \
\operatorname{span}\left{\boldsymbol{p}_0, \ldots, \boldsymbol{p}_k\right} & =\operatorname{span}\left{\boldsymbol{r}_0, \ldots, \boldsymbol{r}_k\right} \
& =\operatorname{span}\left{\boldsymbol{r}_0, A \boldsymbol{r}_0, \ldots, A^k \boldsymbol{r}_0\right} \quad \text { for all } k \geq 0 .
\end{array}
$$
This is the main content of Theorem 2.20 .
In order to avoid flipping pages to compare with the original algorithm, we repeat the unpreconditioned standard linear conjugate gradient algorithm (Algorithm 27) as conjgrad2.
From this, we will see how to derive the conjugate gradient algorithm for optimization. First, if $f(\boldsymbol{x})=\frac{1}{2} \boldsymbol{x}^T A \boldsymbol{x}-\boldsymbol{b}^T \boldsymbol{x}+c$, then the residual $\boldsymbol{r}=A \boldsymbol{x}-\boldsymbol{b}=\nabla f(\boldsymbol{x})$. So we replace the computation of the residual $\boldsymbol{r}_k$ on line 7 with $\boldsymbol{r}_k \leftarrow \nabla f\left(\boldsymbol{x}_k\right)$. The other thing to remember is that in the general situation, there is no matrix $A$. The closest thing we have to $A$ for a general smooth function $f$ is Hess $f(\boldsymbol{x})$, the Hessian matrix of $f$ at $\boldsymbol{x}$. But in general, Hess $f(\boldsymbol{x})$ is neither constant nor easily computable. So we should avoid any explicit reference to $A$. These references occur on line 4 in computing $\boldsymbol{q}_k$, which is used to compute the step length $\alpha_k$ on line 5 and the update of the residual on line 7 . For the step length, we simply use a suitable line search algorithm. This gives Algorithm 81 (conjgradoptFR) below, which is known as the Fletcher-Reeves conjugate gradient algorithm.
数学代写|数值分析代写numerical analysis代考|Line Search Algorithms for Conjugate Gradient Optimization
Now we need to ask: what makes for a suitable line search algorithm for this generalized conjugate gradient algorithm? All of the line search algorithms we have discussed assume the direction of the line search (here $p_k$ ) must be a descent direction: $\boldsymbol{p}k^T \nabla f\left(\boldsymbol{x}_k\right)=\boldsymbol{p}_k^T \boldsymbol{r}_k<0$. This is clearly true for $k=0$ as $\boldsymbol{p}_0=-\boldsymbol{r}_0$. But can we guarantee this will be true for $k=1,2, \ldots$ ? If we use exact line searches, then $s_k$ minimizes $f\left(\boldsymbol{x}_k+s \boldsymbol{p}_k\right)$ over all $s>0$, and so $\boldsymbol{p}_k^T \nabla f\left(\boldsymbol{x}_k+\right.$ $\left.s_k \boldsymbol{p}_k\right)=\boldsymbol{p}_k^T \nabla f\left(\boldsymbol{x}{k+1}\right)=\boldsymbol{p}k^T \boldsymbol{r}{k+1}=0$. From line 9 , we then have
$$
\begin{aligned}
\boldsymbol{p}{k+1}^T \boldsymbol{r}{k+1} & =\left(-\boldsymbol{r}{k+1}+\beta_k \boldsymbol{p}_k\right)^T \boldsymbol{r}{k+1} \
& =-\boldsymbol{r}{k+1}^T \boldsymbol{r}{k+1}<0
\end{aligned}
$$
provided $\boldsymbol{r}_{k+1} \neq \mathbf{0}$, as we wanted. But in practice, we can only approximate exact line searches, and attempting something close to an exact line search can be very expensive in terms of function evaluations.
Since the descent direction condition involves gradients, we need a line search method that involves $\nabla f(\boldsymbol{x})$. This leaves Wolfe condition $(8.3 .7,8.3 .8)$ based line searches as the only practical way to properly implement conjugate gradient methods for optimization. As you may recall, we have two parameters for the Wolfe conditions: $c_1$ for the sufficient decrease criterion, and $c_2$ for the curvature condition. In order to guarantee the existence of a step satisfying $(8.3 .7,8.3 .8)$ we need $f$ bounded below as well as being smooth, and $00$ small.
If exact line searches are used so that $\boldsymbol{p}k^T \nabla f\left(\boldsymbol{x}_k+s_k \boldsymbol{p}_k\right)=0$, then we can guarantee that $\boldsymbol{p}{k+1}$ is a descent direction. If we use a Wolfe condition-based line search, what value of $c_2>0$ can guarantee the same property? For the Fletcher-Reeve conjugate gradient method, it turns out that $0<c_2<\frac{1}{2}$ is sufficient to ensure that $\boldsymbol{p}_{k+1}$ is a descent direction.
数值分析代考
数学代写|数值分析代写numerical analysis代考|Conjugate Gradients for Optimization
在 2.4.2.1 节中注意到，部分共轭梯度法可以从以下条件推导出来： $x_{k+1}$ 最小化凸二次 函数 $\phi(\boldsymbol{x})=\frac{1}{2} x^T A x-\boldsymbol{b}^T x$ 超过 $\times \backslash$ in \operatorname{span $} \backslash$ eft $\left{p_{-} 0, p_{-} 1, \backslash \backslash\right.$ dots, $\left.\mathrm{p}_{-} k \backslash r i g h t\right}$ ，连同财产 $\boldsymbol{p} i^T A \boldsymbol{p}_j=0$ 为了 $i \neq j$ (共轭属性)。共轭条件意味着 样我们就可以找到 $\boldsymbol{x} k+1=\boldsymbol{x}_k+s_k \boldsymbol{p}_k$ 通过使用精确的线搜索。
我们可以将此算法推广到函数 $f(\boldsymbol{x})$ 既不是二次的也不是凸的，并且使用不精确的线搜 索方法。然而，在这个过程中，我们失去了方法的一些属性。对于凸二次目标函数和精 确线搜索，我们具有以下共轭梯度法迭代的属性 (回想一下 $\boldsymbol{r}_i=A \boldsymbol{x}_i-\boldsymbol{b}$ ):
这就是定理2.20的主要内容。
为了避免翻页与原始算法进行比较，我们将无条件的标准线性共轭梯度算法 (算法
27) 重复为 conjgrad2。
由此，我们将看到如何推导用于优化的共轭梯度算法。首先，如果
$f(\boldsymbol{x})=\frac{1}{2} \boldsymbol{x}^T \boldsymbol{A} \boldsymbol{x}-\boldsymbol{b}^T \boldsymbol{x}+c$ ，那么残差 $\boldsymbol{r}=A \boldsymbol{x}-\boldsymbol{b}=\nabla f(\boldsymbol{x})$. 所以我们替换残差的 计算 $\boldsymbol{r}_k$ 在第 7 行 $\boldsymbol{r}_k \leftarrow \nabla f\left(\boldsymbol{x}_k\right)$. 另一件事要记住，在一般情况下，没有矩阵 $A$. 我们必 须做的最接近的事情 $A$ 对于一般的平滑函数 $f$ 是赫斯 $f(\boldsymbol{x})$, 的 Hessian 矩阵 $f$ 在 $\boldsymbol{x}$. 但总的 来说，赫斯 $f(\boldsymbol{x})$ 既不是常数也不容易计算。所以我们应该避免任何明确提及 $A$. 这些引 用出现在计算中的第 4 行 $\boldsymbol{q}_k$ ，用于计算步长 $\alpha_k$ 在第 5 行和第 7 行的残差更新。对于步 长，我们简单地使用合适的线搜索算法。这给出了下面的算法 81 (conjgradoptFR)，它 被称为 Fletcher-Reeves 共轭梯度算法。
数学代写|数值分析代写numerical analysis代考|Line Search Algorithms for Conjugate Gradient Optimization
现在我们需要问: 是什么为这种广义共轭梯度算法提供了合适的线搜索算法? 我们讨论 过的所有线搜索算法都假定线搜索的方向 (这里 $p_k$ ) 必须是下降方向:
$\boldsymbol{p} k^T \nabla f\left(\boldsymbol{x}k\right)=\boldsymbol{p}_k^T \boldsymbol{r}_k<0$. 这显然适用于 $k=0$ 作为 $\boldsymbol{p}_0=-\boldsymbol{r}_0$. 但是我们能保证这对 $k=1,2, \ldots$ ? 如果我们使用精确的线搜索，那么 $s_k$ 最小化 $f\left(\boldsymbol{x}_k+s \boldsymbol{p}_k\right)$ 全面的 $s>0$ ，所以 $\boldsymbol{p}_k^T \nabla f\left(\boldsymbol{x}_k+s_k \boldsymbol{p}_k\right)=\boldsymbol{p}_k^T \nabla f(\boldsymbol{x} k+1)=\boldsymbol{p} k^T \boldsymbol{r} k+1=0$. 从第 9 行开始， 我们有 $$ \boldsymbol{p} k+1^T \boldsymbol{r} k+1=\left(-\boldsymbol{r} k+1+\beta_k \boldsymbol{p}_k\right)^T \boldsymbol{r} k+1 \quad=-\boldsymbol{r} k+1^T \boldsymbol{r} k+1<0 $$ 假如 $r_{k+1} \neq 0$ ，如我们所愿。但在实践中，我们只能近似精确线搜索，并且尝试接近 精确线搜索的东西在函数评估方面可能非常昂贵。 由于下降方向条件涉及梯度，我们需要一种线搜索方法，涉及 $\nabla f(\boldsymbol{x})$. 这留下了沃尔夫 条件 $(8.3 .7,8.3 .8)$ 基于线搜索的方法是正确实施共轭梯度法进行优化的唯一实用方法。 您可能还记得，我们有两个 Wolfe 条件参数： $c_1$ 对于足够的减少标准，和 $c_2$ 对于曲率条 件。为了保证存在满足 $(8.3 .7,8.3 .8)$ 我们需要 $f$ 在下方有界并且很光滑，并且 00 小的。 如果使用精确的线搜索，那么 $\boldsymbol{p} k^T \nabla f\left(\boldsymbol{x}_k+s_k \boldsymbol{p}_k\right)=0$ ，那么我们可以保证 $\boldsymbol{p} k+1$ 是 下降方向。如果我们使用 Wolfe 基于条件的线搜索，什么值 $c_2>0$ 能保证一样的财产 吗? 对于 Fletcher-Reeve 共轭梯度法，事实证明 $0{k+1}$ 是下降方向。
myassignments-help数学代考价格说明
1、客户需提供物理代考的网址，相关账户，以及课程名称，Textbook等相关资料~客服会根据作业数量和持续时间给您定价~使收费透明，让您清楚的知道您的钱花在什么地方。
2、数学代写一般每篇报价约为600—1000rmb，费用根据持续时间、周作业量、成绩要求有所浮动(持续时间越长约便宜、周作业量越多约贵、成绩要求越高越贵)，报价后价格觉得合适，可以先付一周的款，我们帮你试做，满意后再继续，遇到Fail全额退款。
3、myassignments-help公司所有MATH作业代写服务支持付半款，全款，周付款，周付款一方面方便大家查阅自己的分数，一方面也方便大家资金周转，注意:每周固定周一时先预付下周的定金，不付定金不予继续做。物理代写一次性付清打9.5折。
Math作业代写、数学代写常见问题
留学生代写覆盖学科？
代写学科覆盖Math数学,经济代写，金融,计算机,生物信息，统计Statistics,Financial Engineering，Mathematical Finance，Quantitative Finance，Management Information Systems,Business Analytics,Data Science等。代写编程语言包括Python代写、Physics作业代写、物理代写、R语言代写、R代写、Matlab代写、C++代做、Java代做等。
数学作业代写会暴露客户的私密信息吗？
我们myassignments-help为了客户的信息泄露，采用的软件都是专业的防追踪的软件，保证安全隐私，绝对保密。您在我们平台订购的任何网课服务以及相关收费标准，都是公开透明，不存在任何针对性收费及差异化服务，我们随时欢迎选购的留学生朋友监督我们的服务，提出Math作业代写、数学代写修改建议。我们保障每一位客户的隐私安全。
留学生代写提供什么服务？
我们提供英语国家如美国、加拿大、英国、澳洲、新西兰、新加坡等华人留学生论文作业代写、物理代写、essay润色精修、课业辅导及网课代修代写、Quiz，Exam协助、期刊论文发表等学术服务，myassignments-help拥有的专业Math作业代写写手皆是精英学识修为精湛；实战经验丰富的学哥学姐！为你解决一切学术烦恼！
物理代考靠谱吗？
靠谱的数学代考听起来简单，但实际上不好甄别。我们能做到的靠谱，是把客户的网课当成自己的网课；把客户的作业当成自己的作业；并将这样的理念传达到全职写手和freelancer的日常培养中，坚决辞退糊弄、不守时、抄袭的写手！这就是我们要做的靠谱！
数学代考下单流程
提早与客服交流，处理你心中的顾虑。操作下单，上传你的数学代考/论文代写要求。专家结束论文，准时交给，在此过程中可与专家随时交流。后续互动批改
付款操作：我们数学代考服务正常多种支付方法，包含paypal，visa，mastercard，支付宝，union pay。下单后与专家直接互动。
售后服务：论文结束后保证完美经过turnitin查看，在线客服全天候在线为您服务。如果你觉得有需求批改的当地能够免费批改，直至您对论文满意为止。如果上交给教师后有需求批改的当地，只需求告诉您的批改要求或教师的comments，专家会据此批改。
保密服务：不需求提供真实的数学代考名字和电话号码，请提供其他牢靠的联系方法。我们有自己的工作准则，不会泄露您的个人信息。
myassignments-help擅长领域包含但不是全部:
myassignments-help服务请添加我们官网的客服或者微信/QQ，我们的服务覆盖：Assignment代写、Business商科代写、CS代考、Economics经济学代写、Essay代写、Finance金融代写、Math数学代写、report代写、R语言代考、Statistics统计学代写、物理代考、作业代写、加拿大代考、加拿大统计代写、北美代写、北美作业代写、北美统计代考、商科Essay代写、商科代考、数学代考、数学代写、数学作业代写、physics作业代写、物理代写、数据分析代写、新西兰代写、澳洲Essay代写、澳洲代写、澳洲作业代写、澳洲统计代写、澳洲金融代写、留学生课业指导、经济代写、统计代写、统计作业代写、美国Essay代写、美国代考、美国数学代写、美国统计代写、英国Essay代写、英国代考、英国作业代写、英国数学代写、英国统计代写、英国金融代写、论文代写、金融代考、金融作业代写。